Глава OpenAI озвучил сценарии, при которых ИИ навредит человечеству

Сэм Альтман — глава OpenAI — назвал два сценария, при которых искусственный интеллект может навредить человечеству. Он призвал их избежать.

Первый — потеря контроль над будущим, передав его ИИ. Разработчик подчеркнул, что искусственный интеллект всегда должен служить людям.

«Чтобы это обеспечить, нам нужны способы гарантировать, что методы обеспечения безопасности и соответствия ИИ человеческим целям будут развиваться быстрее, чем возможности самих моделей», — отметил Альтман.

Второй сценарий — мир с чрезмерной концентрацией власти, когда чрезвычайно мощный искусственный интеллект окажется в руках одного человека или одной компании и будет использоваться для навязывания всем остальным собственного мировоззрения.

«…последствия могут оказаться крайне антиутопическими. Чтобы избежать этих двух угроз, необходимо найти тонкий баланс», — добавил глава OpenAI.

Ранее зампред Совбеза РФ Дмитрий Медведев говорил, что создатели различных вариантов генеративного ИИ опасаются не за то, что «оборзевший от своей мощи AI» погубит человечество, а за возникновение ситуации, когда программный продукт, использующий продвинутую версию для управления крупным производством или транспортным узлом, причинит колоссальный ущерб.

---