02.04.2023

Непредсказуемый ИИ — серьёзнейшая угроза человечеству

Более 2900 (на 2 апреля) исследователей, инженеров и предпринимателей подписали открытое письмо ИИ-лабораториям с просьбой немедленно приостановить по крайней мере на полгода обучение систем искусственного интеллекта, более мощных, чем GPT-4. Письмо опубликовано на сайте некоммерческой организации Future of Life Institute.

Подписанты считают, что продукты с ИИ «могут представлять серьёзную угрозу обществу и человечеству». При работе с ними следует быть крайне внимательными, но «этого не происходит». При этом последние месяцы разработчики пытаются обогнать друг друга и выпустить «более мощные модели, действия которых сами не могут до конца понять, предсказать и проконтролировать».
В письме говорится, что разработкой продуктов, которые могут заменить людей или создать больше пропаганды, должны заниматься избираемые технологические лидеры. Сами системы при этом стоит создавать тогда, когда все уверены, что те принесут пользу, а рисками можно будет управлять. Подписанты подчёркивают, что если создатели ИИ-продуктов не смогут устроить полугодичную паузу самостоятельно, вмешаться должно правительство.
Письмо подписали глава SpaceX, Tesla и Twitter Илон Маск, сооснователи Apple, Skype и Pinterest Стив Возняк, Яан Таллинн м Эван Шарп, главы фирм-разработчиков ИИ-продуктов, инженеры и исследователи Google и Microsoft, а также учёные и профессора Йельского, Оксфордского, Гарвардского, Кембриджского, Стэнфордского, Массачусетского технологического и других университетов.

Источник:  Future of Life Institute