ИИ «галлюцинирует», Google страдает: компания приостановила выплаты за ошибки

269

Компания Google приостановила приём сообщений по поводу уязвимостей в своём программном обеспечении с открытым кодом, поскольку из-за активности ИИ в этой сфере зачастую такие сообщения содержат технические галлюцинации и поднимают ложную тревогу.

Фирменная инициатива носит название Open Source Software Vulnerability Rewards Program, она подразумевает выплату вознаграждений сторонним специалистам, которые обнаружат в программном обеспечении Google с открытым исходным кодом уязвимости. По мере развития ИИ-моделей, способных искать слабые места в программном коде, Google оказалась буквально завалена автоматически генерируемыми обращениями в рамках данной программы.

По словам представителей компании, эти обращения зачастую содержат ложную информацию ИИ-моделей, а потому поток этих данных решено было перекрыть на время. На паузу рассмотрение новых обращений поставлено с 1 октября, а новые сведения о сроках перезапуска программы появятся не ранее первого квартала следующего года, сообщает 3dnews.ru.

Как заявил президент РФ Владимир Путин в ходе выступления на на пленарной сессии клуба «Валдай», миру еще предстоит учиться жить с ИИ.

Фотогалерея