Бывший инженер Google: искусственный интеллект с вероятностью 95% приведёт к гибели человечества
Нейт Соарес, экс-сотрудник Google и Microsoft, ныне возглавляющий Machine Intelligence Research Institute, выступил с крайне мрачным прогнозом. По его словам, при сохранении нынешнего темпа технологического прогресса вероятность того, что человечество погибнет из-за искусственного интеллекта, составляет не менее 95%. Его оценку приводит издание The Times.
Соарес подчеркивает, что современные ИИ-системы ещё далеки от реальной угрозы, но всё меняется по мере приближения к этапу общего искусственного интеллекта (AGI) — уровня, при котором машины сравнятся по возможностям с человеком. После этого, уверен эксперт, появится искусственный сверхинтеллект (ASI), который будет не только быстрее, но и умнее людей, сможет самостоятельно обучаться, ставить цели и принимать решения.
Как отмечается, сверхинтеллект способен совершать прорывы, которые неподвластны человеку — от контроля над термоядерным синтезом до разработки универсального лекарства от рака. Но главная проблема в том, что контроль над таким ИИ невозможен. Кроме того, подобные системы могут прибегать к систематическому обману, что делает их поведение ещё менее предсказуемым.
Возможные сценарии катастрофы включают даже создание и распространение биологического оружия, разработанного ИИ без ведома человека. Такое заражение может охватить мегаполисы, не вызвав подозрений до момента, когда будет слишком поздно.
«Я не говорю, что мы точно обречены, — отметил Соарес, — но мы мчимся к обрыву на полной скорости». Ранее о рисках высказывался и глава OpenAI Сэм Альтман, предупреждая, что ИИ уже способен имитировать голоса, а в будущем начнёт подделывать и видеозвонки, неотличимые от настоящих — это открывает дверь для масштабных технологических мошенничеств.
