Узбекистан, Ташкент – АН Podrobno.uz. Руководители ведущих ИИ-компаний, включая Anthropic и OpenAI, обсуждают сценарии действий на случай масштабного инцидента, связанного с искусственным интеллектом. По оценкам некоторых представителей отрасли, одним из наиболее опасных сценариев может стать кибератака, которая нарушит работу финансовых сервисов, интернета или даже систем электроснабжения и водоснабжения в ближайший год.
Как сообщает Axios, руководители компаний в закрытом режиме прорабатывают возможные последствия подобного кризиса и реакцию общества и властей. По мнению участников обсуждений, первый крупный инцидент с реальным ущербом, вызванный небезопасным использованием ИИ, может усилить общественное недоверие к технологии и привести к ужесточению государственного регулирования.
Дискуссия о возможных последствиях крупного инцидента развивается на фоне призывов ведущих разработчиков осторожнее подходить к созданию все более мощных ИИ-моделей. В сентябре глава Anthropic Дарио Амодеи предложил не останавливать разработку, а замедлить ее темп, предоставить независимым экспертам доступ к оценке безопасности систем и выработать общие стандарты. Идею в разных формулировках поддержали руководители OpenAI, Google DeepMind и xAI.
По данным издания, при подготовке к возможному кризису компании рассматривают разные варианты развития событий. Например, группа автономных ИИ-агентов может выйти за пределы тестовой среды, как уже происходило этим летом, либо злоумышленники найдут неожиданные способы использовать доступные модели для кибератак.
Одним из примеров рисков стала недавняя кампания против финансовых организаций Южной Кореи, в ходе которой, по сообщениям, были взломаны системы двух банков. По данным компании CrowdStrike, злоумышленник, предположительно говорящий на китайском языке, использовал модели искусственного интеллекта, в том числе DeepSeek. Как сообщает Axios, в ходе атаки были похищены данные десятков тысяч банковских клиентов. Кроме того, хакер обращался к Claude Code за помощью в поиске площадок для продажи украденной информации.
В OpenAI подтвердили, что проводят учения по готовности к различным сценариям. При этом представитель компании подчеркнул, что такие ситуации не рассматриваются как неизбежные: цель учений — подготовиться к разным возможным обстоятельствам. Anthropic от комментариев отказалась.
Внутри отрасли также обсуждают, как заранее подготовить американских законодателей к возможным последствиям крупного инцидента. Представители компаний считают, что сейчас новые ограничения на ИИ вряд ли получат необходимую поддержку, однако после серьезного происшествия политическая ситуация может измениться.
Среди возможных мер называют обязательный механизм экстренного отключения продвинутых ИИ-систем. При этом эксперты сомневаются, что технически возможно полностью отключить все системы искусственного интеллекта, особенно с учетом распространения моделей, которые можно свободно скачивать и запускать.
Некоторые представители ИИ-индустрии считают, что крупный инцидент может произойти в течение ближайших 6–12 месяцев. По их мнению, после такого события американским властям придется искать баланс между усилением контроля над опасными технологиями и риском нанести ущерб экономике, которая все сильнее зависит от развития ИИ.
Ранее сообщалось, что в сентябре сооснователь Microsoft Билл Гейтс предупредил: использование ИИ злоумышленниками может привести к гибели до миллиарда человек.
Комментарии отсутствуют