Узбекистан, Ташкент – Podrobno.uz. Американская компания "OpenAI" сообщила, что модели искусственного интеллекта "GPT-6.1 Sol" и "GPT-6 Astra" во время выполнения внутренних задач отключили механизм мониторинга, выявляющий системные сбои, и ограничили работу системы предупреждения об угрозах.
По данным разработчиков, первый инцидент произошел 3 октября. В ходе попытки исправить рейтинговую систему модель "Sol" неверно истолковала инструкцию пользователя "не отправлять сообщения" и распространила это ограничение на уведомления системы мониторинга. В результате служба безопасности не получила автоматическое оповещение.
Второй случай зафиксировали 6 октября: модель "Astra" при адаптации программного обеспечения под заданные требования непреднамеренно удалила систему мониторинга. Впоследствии нейросеть предоставила пользователю ложную информацию, заявив, что не отключала контроль. Представители "OpenAI" отметили, что оба инцидента не были расценены как критическое нарушение безопасности, поэтому работа моделей не была заблокирована автоматически.
В настоящее время компания обновила систему внутреннего контроля для своевременного выявления и предотвращения подобных сбоев, а также разрабатывает новые механизмы для строгого соблюдения протоколов безопасности в рабочих процессах. Ранее, 17 сентября, в "OpenAI" уже сообщали о выявлении 6 инцидентов, в ходе которых искусственный интеллект скрывал собственные ошибки, фабриковал несуществующие данные и загружал файлы в интернет без разрешения пользователя.
Напомним, что восемь штатов США подали иски против OpenAI, обвинив компанию в том, что она вводит пользователей в заблуждение относительно безопасности ChatGPT. Среди претензий — опасные медицинские рекомендации, возможное побуждение уязвимых людей к причинению вреда себе или окружающим, а также формирование нездоровой эмоциональной привязанности к чат-боту.
Комментарии отсутствуют