ИИ-ассистент для написания кода Copilot от OpenAI может предлагать закрытые ключи от реальных криптовалютных кошельков. Об этом пишет The Register.
По словам одного из разработчиков, Copilot внезапно предложил что-то похожее на закрытый ключ от кошелька с криптовалютой. Оказалось, он связан с реальным аккаунтом.
«Я был шокирован. Закрытый ключ подобен замку в вашей казне: если его сольют, ваши активы могут быть украдены», — сказал программист.
Другой разработчик предположил, что Copilot извлек информацию из открытых репозиториев GitHub. ИИ-ассистент запомнил общедоступные данные и при правильном запросе вывел «их на поверхность», добавил он.
По всей видимости, закрытый ключ действительно отображался в общедоступных репозиториях GitHub. Программисты предположили, что его создали в целях тестирования. Кошелек активен и использовался для отправки и получения реальных токенов.
Некоторым разработчикам также удалось найти закрытые ключи. Они оказались связанными с другими криптокошельками, некоторые из которых содержали небольшую сумму денег.
Бывший научный сотрудник OpenAI Ари Герберт-Восс предположил, что утечка ключей произошла из-за того, что они хранились в открытом доступе.
«Люди в восторге от того, что это еще один способ найти кошельки для слива, но обратите внимание, все они и так были общедоступны», — сказал он.
Герберт-Восс предположил, что потенциально ценные аккаунты уже опустошены.
«Реальный риск заключается в том, что кто-то не обращает внимания и продолжает использовать скомпрометированный кошелек», — добавил он.
Ранее OpenAI сообщила, что добавит фильтр персональной информации в Copilot, который исключит личные данные вроде номеров телефонов и домашних адресов из обучающих наборов.
Напомним, в июне 2021 года GitHub представил инструмент для автозаполнения кода Copilot. Ассистент создан в сотрудничестве с OpenAI на базе языковой модели Codex.
В июле инструмент заподозрили в копировании защищенных авторским правом фрагментов кода.
В октябре исследователи выяснили, что 30% нового кода на GitHub написано с помощью Copilot.
Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!
