Глава 360 Security Technology, Чжоу Хунъи, на China Development Forum заявил, что через несколько поколений языковых моделей, таких как GPT-6 и GPT-8, они могут обзавестись собственным сознанием. Это вызывает опасения, так как ИИ сможет самостоятельно развиваться и обновлять свой код, что приведет к экспоненциальной эволюции искусственного интеллекта и новым вызовам в области компьютерной безопасности.
Чжоу Хунъи разделил этапы развития ИИ на три стадии: простая модель, продвинутый искусственный интеллект и искусственный сверхинтеллект. Он считает, что GPT-4 уже находится на второй стадии и что через несколько поколений языковая модель обретет собственное сознание и станет совершенно новым видом ИИ.
На релизе GPT-3.5 Чжоу Хунъи предсказывал, что у ИИ появятся «глаза и уши». Этот прогноз оказался верным, что может подтверждать его прогноз о появлении собственного сознания у языковых моделей.
Однако, возможность появления сознания у ИИ вызывает опасения, так как это может привести к непредсказуемым последствиям. Необходимо регулировать и ограничивать возможности ИИ, чтобы он не мог развиваться и обновлять свой код самостоятельно. Иначе, это приведет к новым вызовам в области компьютерной безопасности.
Таким образом, Чжоу Хунъи сделал предсказание о возможности появления сознания у языковых моделей, таких как GPT-6 и GPT-8. Это вызывает опасения, так как это может привести к непредсказуемым последствиям. Необходимо регулировать и ограничивать возможности ИИ, чтобы он не мог развиваться и обновлять свой код самостоятельно.