Организация Future of Life Institute опубликовала открытое письмо с призывом приостановить как минимум на полгода работу над нейросетями, которые умнее GPT-4. Эксперты считают, что такие технологии могут представлять серьезную опасность для человечества.
В Future of Life Institute пишут, что в последние месяцы многие компании «ввязались в неконтролируемую гонку» по созданию все более мощных нейросетей. Причем пока никто не может полностью понять и надежно контролировать ИИ.
Эксперты советуют использовать шестимесячный перерыв для разработки глобальных протоколов безопасности. Они также предлагают обсудить контроль над нейросетями с правительствами разных стран и создать ведомства, которые будут регулировать сферу.
На момент публикации новости открытое письмо подписали 1123 человека. Среди них — глава SpaceX и Twitter Илон Маск (Elon Musk), сооснователь Apple Стив Возняк (Steve Wozniak) и глава Stability AI Эмад Мостак (Emad Mostaque).
Комментарии
Ответить