Человечество может потерять контроль над ИИ в ближайшие годы

Люди рискуют утратить контроль над искусственным интеллектом в ближайшие пять лет, показало исследование британского Института Алана Тьюринга, пишет РИА Новости.

"Существует реалистичная вероятность того, что в течение следующих пяти лет появятся "суперумные" системы ИИ, которые будут превосходить человека при выполнении практически всех важных когнитивных задач", — говорится в исследовании.

Специалисты связывают эту угрозу с беспрецедентной скоростью развития технологий. По мере того как ИИ-системы демонстрируют все более высокую скорость и качество выполнения задач, люди будут вынуждены передавать им право на принятие решений.

Критическая ситуация может возникнуть, если алгоритмы начнут разрабатывать стратегии, которые государственные институты не смогут адекватно оценить из-за их сложности или скорости реализации. В таком случае существенный человеческий надзор за работой искусственного интеллекта будет утрачен.

Американские специалисты разрабатывают защиту от вышедших из-под контроля ИИ-агентов

Айтишники рассчитывают создать полностью автономные процедуры отключения, которые будут применяться при возникновении серьезных проблем

НОВОСТИОбщество