Ведущие ученые заявили о риске гибели человечества из-за ИИ

Ведущий научный сотрудник компании Anthropic Эван Хабингер сообщил в соцсети X, что он и его коллеги искренне верят, что искусственный интеллект (ИИ) может уничтожить всех людей, и что в следующем десятилетии вероятность такого исхода, по его оценкам, превысит 10%.

Хабингер подчеркнул, что несмотря на все предпринимаемые усилия, у компании пока нет плана решения проблемы «выравнивания для сверхразума», и она «явно не на верном пути» к этому.

Другой исследователь Джейкоб Коксон отметил, что он занимался предварительным обучением в OpenAI и Anthropic, и назвал действия обеих компаний безответственными, поскольку они движутся «прямиком к самосовершенствующемуся суперинтеллекту, рискуя своими жизнями». Он добавил, что люди, создающие ИИ, считают, что он может «убить нас всех к концу десятилетия», и это вовсе не «маркетинговый ход».

В своём посте, посвященном предупреждению Коксона, Хабингер привёл последний отчёт о рисках Anthropic, отметив, что угроза, исходящая от существующих моделей, всё же невелика, и подчеркнул: «Что меня беспокоит, так это сверхразум, возникающий в результате рекурсивного самосовершенствования, которое, как мы уже говорили, происходит быстрее, чем мы думали».

Об опасностях, связанных с рекурсивным самосовершенствованием, которое позволяет ускорить разработку ИИ, предупреждал главный научный сотрудник OpenAI Якуб, выступивший с призывом замедлить развитие ИИ из-за риска выхода агентов из-под контроля, сообщает 3dnews.ru.

Ранее ученые из Шэньчжэньского университета в Китае разработали ИИ-модель, которая способна оценивать вероятность развития депрессии в течение ближайших четырех лет.