Илон Маск, Стив Возняк и больше тысячи экспертов призвали приостановить на 6 месяцев разработку продвинутого искусственного интеллекта

Содержание

В чём суть?

Крупные технологические игроки, такие как соучредитель Apple Стив Возняк и основатель StabilityAI Эмад Мостак, подписали открытое письмо против дальнейшего развития искусственного интеллекта. Также среди подписавшихся значится Илон Маск.
В частности, петиция, опубликованная 22 марта на сайте futureoflife.org, призывает все лаборатории, разрабатывающие искусственный интеллект, прекратить свою деятельность как минимум на 6 месяцев. Разработчики ИИ должны немедленно прервать обучение ИИ. Это сделано для того, чтобы замедлить темпы «опасной» и «безудержной конкуренции» последних месяцев. Разработки приведут к появлению «все более мощного цифрового интеллекта, который даже их создатели не смогут понять, предвидеть или контролировать».
Согласно открытому письму, современные системы искусственного интеллекта могут брать на себя все больше и больше общих задач от людей и, таким образом, все чаще становятся прямыми конкурентами человеку. В целом, по мнению авторов открытого письма, человечество рискует потерять контроль над цивилизацией.
Чтобы противодействовать научно доказанным рискам быстрого развития ИИ, необходимо планировать, управлять и контролировать такие инструменты. Независимые эксперты должны постоянно сопровождать и контролировать процесс разработки ИИ.

Меры против ИИ

Авторы открытого письма вносят конкретные предложения, как противодействовать переизбытку ИИ. Помимо отслеживания высокофункциональных систем ИИ, меры включают в себя ответственность за ущерб, причиненный ИИ, щедрые государственные средства на исследования безопасности ИИ и жизнеспособную систему сертификации для безопасных моделей ИИ. Прежде всего, нужны «институты, которые остановят драматические экономические и политические потрясения (и связанную с этим угрозу демократии), которые несет с собой ИИ».