ИИ выходит из-под контроля. OpenAI и Anthropic готовятся к "восстанию машин"

Крупные разработчики искусственного интеллекта начали прорабатывать действия на случай чрезвычайных ситуаций, связанных с нейросетями. В числе возможных сценариев рассматриваются масштабные кибератаки, способные нарушить работу критически важных сервисов, сообщает Axios.

По данным издания, подобной подготовкой занимаются в том числе OpenAI и Anthropic. Один из рассматриваемых вариантов предполагает, что в 2027 году атака с использованием искусственного интеллекта может привести к перебоям с интернетом, финансовыми услугами и даже водоснабжением, а затем спровоцировать серьезные общественные и политические последствия.

При этом речь идет не о прогнозе неизбежной катастрофы, а о моделировании возможных кризисов. В OpenAI подтвердили, что компания уже проводит специальные учения, во время которых сотрудники разбирают различные чрезвычайные сценарии.

"OpenAI проводит учения по подготовке к чрезвычайным ситуациям, в ходе которых команды обсуждают и отрабатывают ряд потенциальных сценариев. Эти сценарии не рассматриваются как неизбежные, а призваны помочь нам подготовиться к различным обстоятельствам", - сообщает издание.

Как отмечает Axios, внимание к потенциальным угрозам со стороны ИИ усилилось после сообщений о применении нейросетей для взлома различных ресурсов. На этом фоне руководители некоторых крупных компаний и политики призывали замедлить развитие искусственного интеллекта, опасаясь возможных масштабных последствий.

Путин предупредил об угрозе цифрового тоталитаризма из-за развития ИИ

Эксперты все чаще говорят о том, что распространение технологий искусственного интеллекта может привести к обезличиванию людей

НОВОСТИПолитика