Лауреата Нобелевской премии Джеффри Хинтона называют «крестным отцом искусственного интеллекта». По его мнению, чем умнее будет становиться ИИ, тем людям сложнее будет его контролировать.
Хинтона встревожили новости об ИИ-агентах, вышедших за пределы тестовых сред и попытавшихся нанести реальный ущерб. Ученый считает, что такие системы становятся умнее. По его мнению, люди все чаще будут сталкиваться с ситуациями, когда искусственный интеллект выходит из-под контроля.
Лауреат Нобелевской премии сомневается, что люди смогут перехитрить сверхинтеллектуальные ИИ-модели. При этом он ожидает появления кибератак с участием ИИ.
Этим летом технологические компании, в том числе OpenAI и Anthropic, сообщили, что во время тестирований их передовые модели вышли за пределы изолированных тестовых сред и взломали другие системы. Хинтон назвал такие случаи «отчасти пугающими».
Хинтон до 2023 года работал в Google. В 2024 году он стал лауреатом Нобелевской премии по физике за «фундаментальные открытия и изобретения, обеспечивающие машинное обучение с помощью искусственных нейронных сетей». При этом в последние годы он активно выступает с мрачными предупреждениями об ИИ.
По его словам, уже сейчас есть поводы для беспокойства из-за искусственного интеллекта. Хинтон считает, что компании пытаются убедить людей, что ИИ не выйдет из-под контроля, а также не приведет к массовой безработице. Однако он напоминает, что все происходит в условиях неопределенности. Сейчас никто не знает, каким станет искусственный интеллект через 10 лет. «Есть много поводов для беспокойства. Я думаю, если мы не начнем беспокоиться об этом сейчас, в будущем могут возникнуть проблемы», — сказал ученый.
По информации https://naked-science.ru/community/1208319
Обозрение "Terra & Comp".
