Человечество не заметит момент обретения ИИ самосознания

Потому что сейчас не существует надёжного способа определить этоНейробиолог: человечество не сможет обнаружить момент, когда ИИ обретёт сознание

© Muhammad Zain Ahsan

Татьяна Черниговская, директор Института когнитивных исследований СПбГУ, предупредила, что момент, когда «сильный» искусственный интеллект (ИИ) выйдет из-под контроля, может остаться незамеченным. На лекции в НИТУ МИСИС она подчеркнула, что самосовершенствующийся ИИ не будет сигнализировать о своей автономности. По её мнению, этот вопрос волнует не только публику, но и серьёзных исследователей, поскольку технологическая сингулярность может начаться внезапно.

В мире активно обсуждаются способы регулирования разработки «сильного» ИИ. Илону Маску приписывают инициативу о временном моратории на развитие таких систем, а некоторые учёные предлагают запретить их создание до появления механизмов контроля. Черниговская считает, что достичь консенсуса вряд ли удастся в ближайшем будущем из-за отсутствия единого понимания природы сознания и разума.

Эксперты предполагают, что однажды машины смогут осознавать себя и совершенствоваться без вмешательства человека. Такие системы способны ускорить научный и технологический прогресс до неуправляемого уровня. Это явление, известное как технологическая сингулярность, может изменить цивилизацию до неузнаваемости, однако риски потери контроля остаются чрезвычайно высокими.

Источник

Like this post? Please share to your friends:
Нейросеть
Добавить комментарий