Злоумышленники придумали, как обмануть нашумевшую нейросеть ChatGPT, которая с недавних пор отказывается писать по запросу программный код, который впоследствии может быть использован киберпреступниками. Чтобы лишить чат-бота бдительности, достаточно обратиться к нему через API вместо веб-интерфейса. В даркнете уже доступны готовые инструменты для обхода наложенных разработчиками из OpenAI ограничений – как платные, так и бесплатные.
Что такое ChatGPT
ChatGPT – это диалоговый бот с искусственным интеллектом, разработанный некоммерческой организацией OpenAI. В основе ChatGPT языковая модель GPT-3.5, доработанная при помощи методов машинного обучения с учителем (supervised) и с подкреплением (reinforcement learning).
На текущем этапе развития ChatGPT умеет подавать информацию в простой и понятной форме, формулировать лаконичные ответы на заданные пользователем вопросы, касающиеся самого широкого круга тем.
В декабре 2022 г. CNews писал о том, что в Google не на шутку испугались ChatGPT, посчитав, что тот в перспективе мог бы лишить компанию значительной доли рекламной выручки.
Позднее выяснилось, что бот готов помочь написать дипломную работу, которая удовлетворит аттестационную комиссию российского вуза и вообще обрел немалую популярность среди студентов учебных заведений по всему миру.
Кроме того, нейросеть способна обнаруживать программные уязвимости, предлагать варианты их устранения и даже самостоятельно писать код, хоть и далеко не безупречно.
Хитрый способ
Хакеры нашли способ обойти ограничения, наложенные разработчиками чат-бота ChatGPT, которые призваны помешать использовать инструмент для создания вредоносных программ и фишинговых почтовых рассылок. Инструменты, позволяющие применять нейросеть со злым умыслом теперь продаются в даркнете, причем по весьма демократичным ценам. Об этом сообщило издание Ars Technica со ссылкой на данные исследователей компании Check Point Research.
Техника, выработанная злоумышленниками, предельно проста и предполагает использование программного интерфейса (API – OpenAI API) ChatGPT для отправки запросов вместо привычного веб-интерфейса. Доступ к API сервис предоставляет разработчикам для упрощения интеграции функциональности чат-бота в сторонние приложения.
Однако, как выяснили специалисты Check Point Research, обращения пользователя к ChatGPT посредством API не проходят столь же строгую фильтрацию, каковая ожидает любой запрос, направленный через веб-интерфейс. Другими словами, сервис доверяет сторонним разработчикам и не отсеивает запросы на создание вредоносного контента.
В январе 2023 г. Check Point Research сообщила о том, что с момента появления открытого доступа к ChatGPT взломщики-дилетанты (script kiddies) взяли чат-бота на вооружение в качестве инструмента для создания и доработки вредоносов, например, вирусов-шифровальщиков. Анализ публично доступной переписки неопытных хакеров тогда показал, что большинство образцов вредоносного ПО создано с помощью именно веб-интерфейса ChatGPT, который на тот момент еще не был в достаточной мере защищен.
Достоверно неизвестно, помогал ли ChatGPT при написании Linux-версии программы-вымогателя группировке Clop, однако она совершенно точно уступает Windows-варианту. Благодаря ряду серьезных изъянов жертвы шифровальщика Clop из числа обладателей Linux-машин в течение нескольких месяцев имели возможность восстановить принадлежащие им файлы и ничего не платить злоумышленникам.
Варианты инструментов
Исследователи из Check Point Research обнаружили на одной из подпольных торговых площадок в интернете предложение о продаже доступа к Telegram-боту, который выступает посредником между пользователем и ChatGPT и принимает любые запросы без ограничений. Размер платы за пользование рассчитывается исходя из количества запросов, необходимых покупателю. Первые 20 предлагаются даром, за каждые следующую сотню продавец просит $5,5 (около 400 руб. по курсу ЦБ на 9 февраля 2023 г.).
Специалисты ИБ-компании убедились в работоспособности сервиса. По запросу одного из исследователей бот сгенерировал фишинговое сообщение и скрипт для кражи PDF-файлов с зараженных компьютеров и последующей отправки соответствующих документов злоумышленнику по протоколу FTP.
Другие, менее предприимчивые посетители площадки предлагают воспользоваться полностью бесплатным вариантом инструмента для обхода ограничений ChatGPT, хоть и гораздо менее удобным для не слишком подкованных в техническом плане пользователей – bash-скриптом.
Bash – командный интерпретатор по умолчанию в большинстве современных мейнстримных дистрибутивов GNU/Linux.
Примечательно, что обнаруженный экспертами Check Point Research bash-скрипт размещен в публичном репозитории хостинга ИТ-проектов GitHub, который c 2018 г. принадлежит Microsoft.
Источник: www.cnews.ru