Forklog
2023-03-31 09:31:50

Эксперты раскритиковали идею приостановить ИИ-исследования

Ряд экспертов в области ИИ раскритиковали авторов письма Института будущего жизни, призывающих приостановить разработку больших языковых моделей на шесть месяцев. По словам оппозиции, инициатива является «хайпом вокруг ИИ» и искажает академические статьи некоторых ученых. Авторы письма в качестве аргумента в пользу приостановки исследований процитировали статью Тимнит Гебру — бывшей исследовательницы Google. Компания уволила ее после того, как ученая раскритиковала большие языковые модели в своей научной работе. Однако Гебру утверждает, что авторы письма исказили статью. По ее словам, работа, наоборот, предостерегает от завышенных заявлений об ИИ. «В основном они заявляют противоположное тому, что мы говорим, и цитируют нашу статью», — написала ученая. that one of the main points we make in the paper is that one of the biggest harms of large language models, is caused by CLAIMING that LLMs have "human-competitive intelligence." They basically say the opposite of what we say and cite our paper?— @timnitGebru@dair-community.social on Mastodon (@timnitGebru) March 30, 2023 Соавторка работы Эмили Бендер сказала, что письмо — сплошной «бардак» и пропитано «ажиотажем вокруг ИИ». По ее словам, риски технологии никогда не были связаны с ее «чрезмерной силой». Скорее ученые предостерегали от «концентрации власти в руках людей, способных воспроизводить системы угнетения, с ущербом для информационной экосистемы». Instead: They're about concentration of power in the hands of people, about reproducing systems of oppression, about damage to the information ecosystem, and about damage to the natural ecosystem (through profligate use of energy resources).>>— @emilymbender@dair-community.social on Mastodon (@emilymbender) March 29, 2023 Глава стартапа Stability AI Эмад Мостак, подписавший письмо, всего через несколько часов после его публикации отказался от одного из требований. «Я не думаю, что шестимесячная пауза — лучшая идея», — написал он в Twitter. To ensure it does as you say.However, large emergent models can be very dangerous without achieving AGI or sentience.I don't think a pause will do much but signed in the spirit of the letter that transparency & coordination & better governance is 💯 needed— Emad (@EMostaque) March 29, 2023 Другой подписант — профессор психологии Гэри Маркус — большую часть дня спорил с критиками в Twitter, включая академика компьютерных наук Ника Холлимана. Пользователи обвиняли ученого в «глупом отвлечении внимания». Один из критиков предположил, что письмо было подписано «белыми людьми», которым безразличны текущие проблемы предвзятости алгоритмов. «Я неоднократно заявлял, […] что мы должны быть обеспокоены тем, как существующие системы увековечивают прошлые предубеждения», — ответил Маркус. This misrepresents me.I have repeatedly argued (Rebooting AI, my pinned tweet since 2021, Atlantic article last week, etc) that we must be concerned with how existing systems perpetuate past bias.I stand by what I wrote yesterday: “We desperately need to stop dichotomizing.… https://t.co/GohmvZ6ty2— Gary Marcus (@GaryMarcus) March 29, 2023 Крупные технологические компании вроде Google, Meta и Microsoft годами работали над системами искусственного интеллекта. Однако повышенный интерес к технологии возник после анонса ChatGPT. В марте 2023 года OpenAI представила новую версию языковой модели GPT. Вероятно, это и привело к написанию публичного письма. Напомним, в марте более 1000 экспертов в области ИИ призвали приостановить разработку больших языковых моделей на шесть месяцев.

获取加密通讯
阅读免责声明 : 此处提供的所有内容我们的网站,超链接网站,相关应用程序,论坛,博客,社交媒体帐户和其他平台(“网站”)仅供您提供一般信息,从第三方采购。 我们不对与我们的内容有任何形式的保证,包括但不限于准确性和更新性。 我们提供的内容中没有任何内容构成财务建议,法律建议或任何其他形式的建议,以满足您对任何目的的特定依赖。 任何使用或依赖我们的内容完全由您自行承担风险和自由裁量权。 在依赖它们之前,您应该进行自己的研究,审查,分析和验证我们的内容。 交易是一项高风险的活动,可能导致重大损失,因此请在做出任何决定之前咨询您的财务顾问。 我们网站上的任何内容均不构成招揽或要约