Потому что сейчас не существует надёжного способа определить этоНейробиолог: человечество не сможет обнаружить момент, когда ИИ обретёт сознание
© Muhammad Zain Ahsan
Татьяна Черниговская, директор Института когнитивных исследований СПбГУ, предупредила, что момент, когда «сильный» искусственный интеллект (ИИ) выйдет из-под контроля, может остаться незамеченным. На лекции в НИТУ МИСИС она подчеркнула, что самосовершенствующийся ИИ не будет сигнализировать о своей автономности. По её мнению, этот вопрос волнует не только публику, но и серьёзных исследователей, поскольку технологическая сингулярность может начаться внезапно.
В мире активно обсуждаются способы регулирования разработки «сильного» ИИ. Илону Маску приписывают инициативу о временном моратории на развитие таких систем, а некоторые учёные предлагают запретить их создание до появления механизмов контроля. Черниговская считает, что достичь консенсуса вряд ли удастся в ближайшем будущем из-за отсутствия единого понимания природы сознания и разума.
Эксперты предполагают, что однажды машины смогут осознавать себя и совершенствоваться без вмешательства человека. Такие системы способны ускорить научный и технологический прогресс до неуправляемого уровня. Это явление, известное как технологическая сингулярность, может изменить цивилизацию до неузнаваемости, однако риски потери контроля остаются чрезвычайно высокими.