Узбекистан, Ташкент – Podrobno.uz. Глава компании Anthropic Дарио Амодеи заявил о необходимости срочно замедлить темпы развития искусственного интеллекта из-за возрастающих рисков безопасности. По его мнению, без надлежащих мер защиты мощные ИИ-системы уже в ближайшие 6-12 месяцев могут причинить ущерб в сотни миллиардов долларов.
В своем блоге разработчик языковой модели Claude отметил, что ускоряющиеся темпы создания возможностей ИИ создают угрозу появления роя ботов, способного захватить интернет. Он подчеркнул, что масштабы возможного ущерба будут увеличиваться по мере роста мощности алгоритмов, если не внедрить необходимые защитные механизмы.
Для решения проблемы Амодеи предложил трехэтапный план координации, направленный на сбалансированное и безопасное развитие технологий. На первом этапе компании-разработчики должны привлечь сторонних экспертов для аудита внутренних практик безопасности.
Второй этап предполагает наладку взаимодействия между ИИ-компаниями в демократических странах. Третья фаза предусматривает глобальную координацию с участием правительств большинства государств мира, включая авторитарные страны, такие как Китай.
Заявление главы Anthropic прозвучало на фоне аналогичной позиции руководства OpenAI. Ранее глава компании Сэм Альтман на закрытой встрече с сотрудниками сообщил о готовности снизить темпы разработки наиболее продвинутых систем искусственного интеллекта ради безопасности и призвал других участников рынка последовать этому примеру.
Комментарии отсутствуют