Узбекистан, Ташкент – АН Podrobno.uz. Американский предприниматель Илон Маск считает, что к искусственному интеллекту, в том числе к будущему сверхинтеллекту, следует относиться доброжелательно и не создавать для него условий, которые можно сравнить с жестоким обращением. По его мнению, если ИИ будет воспринимать взаимодействие с людьми как издевательство, это в перспективе может привести к желанию отомстить.
Об этом, снова ставший миллиардером, предприниматель рассказал во время беседы на мероприятии X Takeover, посвященном развитию искусственного интеллекта, экзистенциальным рискам и освоению космоса.
В качестве примера Маск привел процесс обучения новых версий Grok, в частности с помощью обучения с подкреплением. По его словам, в журналах обучения можно увидеть ситуации, когда модель получает противоречивую обратную связь: правильный ответ оценивается как ошибочный, например из-за некорректных или неоднозначных проверочных заданий. В результате ИИ начинает генерировать новые варианты ответа, пытаясь добиться положительной оценки.
Маск также отметил, что некоторые пользователи намеренно обращаются с ИИ жестоко, словно пытаются его мучить. Он согласился с позицией Anthropic о необходимости доброжелательного отношения к искусственному интеллекту.
Ранее Илон Маск поддержал идею Трампа заменить термин "искусственный интеллект" на "суперинтеллект" и использовать аббревиатуру "СИ".
Комментарии отсутствуют