ИИ представляет «цивилизационный риск», если его не регулировать

Илон Маск был среди ряда высших руководителей технологических компаний, которые встретились в среду в Капитолии США на сенатском форуме, посвященном искусственному интеллекту (ИИ). Во время частной дискуссии Маск, как сообщается, повторил предупреждения об угрозе, которую ИИ представляет для человечества, если не будут приняты меры по регулированию новых технологий.

Маск предупредил законодателей, что ИИ может представлять «цивилизационный риск», если его не регулировать, согласно сенатору Синтии Ламмис (республиканец от штата Вайоминг) в репортаже NBC News. Ламмис сказала, что записала эту фразу в свой блокнот после того, как она ее поразила, а позже показала ее двум репортерам.

Среди других технических руководителей, присутствовавших на форуме, были генеральный директор Meta Марк Цукерберг, бывший генеральный директор Microsoft Билл Гейтс, генеральный директор Alphabet (Google) Сундар Пичаи, генеральный директор OpenAI Сэм Альтман и другие. Встреча не была открытой для публики, и помимо приглашенных руководителей, профсоюзных лидеров и организаций по защите гражданских прав на ней присутствовало более 60 сенаторов.

Эта новость появилась после того, как Маск присоединился к нескольким другим профессионалам отрасли, подписавшим призыв приостановить разработку некоторых систем искусственного интеллекта в начале этого года. Альтман не подписал письмо, хотя позже он помог написать документ OpenAI, призывающий к усилению управления сверхразумными системами.

Помимо усилий Tesla, SpaceX, Neuralink, The Boring Company и X, в начале этого года Маск также запустил xAI — стартап в области искусственного интеллекта, который заявляет, что намерен «понять истинную природу Вселенной».

После встречи Маск, уходя, поговорил с репортерами CNBC возле Капитолия, отметив, что почти все участники согласились с необходимостью принятия мер по регулированию ИИ.

«Эта встреча может войти в историю как очень важная для будущего цивилизации», — сказал Маск.

Когда его спросили, думает ли он, что в результате этой встречи будет принят закон, Маск ответил: «Вероятно», хотя он не уверен, каковы будут сроки принятия такого закона. Кроме того, Маск сказал в интервью, что почти все подняли руки, когда Шумер спросил, кто поддерживает регулирование развития ИИ, что он назвал «хорошим знаком».

Репортеры также настаивали на том, какие действия может предпринять Сенат в ответ на форум. Хотя он отказался сообщить, что именно будет делать правительство, он сослался на создание в прошлом регулирующих органов, а позже сказал, что «возможно» можно было бы создать отдельный департамент ИИ.

Перед отъездом Маска спросили, думает ли он, что ИИ уничтожит человечество. Маск ответил: «Есть некоторая вероятность, превышающая ноль, что ИИ убьет нас всех. Я думаю, что это низко».

«Но если есть хоть какой-то шанс, я думаю, нам следует также учитывать хрупкость человеческой цивилизации».

Вы можете посмотреть полное интервью Илона Маска CNBC после форума Сената ниже.