Мир предупредили о «вымирании человечества» из-за ИИ
Группа из действующих и бывших сотрудников компаний Кремниевой долины заявила о том, что без усиления мер безопасности искусственный интеллект (ИИ) может привести к «вымиранию человечества». Об этом сообщает Independent.
Такое заявление разработчики искусственного интеллекта сделали, опубликовав открытое письмо. Его подписали 13 сотрудников таких компаний как OpenAI, Anthropic и DeepMind от Google.
По мнению подписавших письмо, лаборатории, разрабатывающие технологии искусственного интеллекта, «имеют сильные финансовые стимулы избегать эффективного надзора» как со стороны собственных сотрудников, так и со стороны общественности.
«Мы верим в потенциал технологии искусственного интеллекта, которая принесет беспрецедентную пользу человечеству. Мы также понимаем серьезные риски, связанные с этими технологиями. Эти риски варьируются от дальнейшего усиления существующего неравенства до манипуляций и дезинформации, до потери контроля над автономными системами искусственного интеллекта, что потенциально может привести к исчезновению человечества», - говорится письме.
Авторы письма призвали компании, работающие с ИИ, прекратить наказывать сотрудников, говорящих о рисках, и «затыкать им рот». По их мнению, каждая компания, которая стремится работать в области искусственного интеллекта, «должна доказать, что достойна общественного доверия».
Ранее основатель Tesla и SpaceX Илон Маск и другие лидеры технологической индустрии ранее призвали ИИ-лаборатории прекратить обучение ИИ-моделей, более мощных, чем GPT-4, последняя языковая модель компании OpenAI. При этом генеральный директор компании OpenAI, создавшей ChatGPT, Сэм Олтмен выступил в Конгрессе США с призывом начать регулирование технологии искусственного интеллекта, чтобы избежать «значительного вреда миру».
В свою очередь власти США пообещали ввести обязательные проверки инструментов, подобных ChatGPT. Сообщалось, что процесс сертификации перед выпуском станет обязательным для новых моделей ИИ.