Один из пионеров ИИ-отрасли Джеффри Хинтон ушел из компании Google и предупредил мир о потенциальных рисках, связанных с технологией. Об этом пишет The New York Times.
По его словам, угроза наступит раньше, чем предполагалось.
«Я думал, что это будет через 30-50 лет или даже больше. Очевидно, теперь я так не считаю», — сказал ученый.
Хинтон заявил, что сожалеет о работе всей своей жизни. Он упомянул о краткосрочных рисках, связанных с рынком труда, а также о распространении поддельных фотографий, видео и текстов.
«Теперь я думаю, что создаваемый нами цифровой интеллект сильно отличается от биологического», — сказал ученый в комментарии для CNBC.
Хинтон сослался на мощь языковой модели GPT-4 и чат-бота ChatGPT, который стал вирусным с момента запуска в конце прошлого года.
«Если у меня есть 1000 идентичных цифровых агентов с одинаковым весом, всякий раз, когда один агент узнает что-то, все они сразу же узнают об этом из-за одинакового веса», — сказал Хинтон.
По его словам, биологические агенты не могут этого сделать.
«Таким образом, наборы идентичных цифровых агентов могут получить гораздо больше умений. Вот почему GPT-4 знает намного больше, чем любой человек», — заключил ученый.
По словам Хинтона, он ушел из Google, чтобы свободно говорить об опасностях ИИ.
In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.— Geoffrey Hinton (@geoffreyhinton) May 1, 2023
«Я ушел, чтобы поговорить об опасностях ИИ, не задумываясь о том, как это влияет на Google. Google поступила очень ответственно», — написал он.
Хинтон, известный как «Крестный отец ИИ», получил докторскую степень в области искусственного интеллекта 45 лет назад. Он остается одним из самых уважаемых экспертов в этой области.
Последнее десятилетие Хинтон работал на техгиганта неполный рабочий день. В 2022 году его назначили вице-президентом и научным сотрудником в Google Brain.
Глава подразделения Джефф Дин выразил сожаление в связи с уходом Хинтона.
«Мне будет его не хватать, и я желаю ему всего наилучшего!», — заявил он.
Напомним, в апреле Google объединила подразделения Brain и DeepMind в одну команду.
В июле 2022 года техгигант уволил инженера Блейка Лемуана, обнаружившего «разум» у языковой модели LaMDA.
В июле 2021 года сооснователь ИИ-подразделения Google Сами Бенжио подал в отставку.
