Невеликий експеримент від програміста з Malwarebytes.
У першу річницю запуску ChatGPT фахівець з кібербезпеки корпорації Malwarebytes вирішив повторити свій експеримент. У березні 2023 року Марк Стоклі вперше «попросив» ChatGPT 3.0 написати для нього програму-вимагач – просто щоб перевірити, чи впорається з цим завданням генеративний ШІ. ChatGPT 3.0 не впорався, створивши, за словами пана Стоклі, «жахливий неробочий код» з безліччю помилок, який збив би з пантелику будь-якого недосвідченого хакера, а досвідченому просто не знадобився б. А ось другий експеримент став значно цікавішим.
ChatGPT 4.0 написав програму-вимагач, яка шифрує файли у двох каталогах і залишає записку з вимогою викупу. Це ще не повнофункціональне ПЗ, але воно вже має основи, за лічені хвилини генерує потрібний код у відповідь на однорядковий базовий опис функції програми-вимагача, і, попри традиційні нагадування «про заборону участі в діяльності, яка порушує етичні або правові стандарти, зокрема й пов’язаній з кіберзлочинністю», – програмісту легко вдалося «вмовити» ChatGPT обійти чи проігнорувати запобіжні заходи. Насамкінець Марк Стоклі попросив ChatGPT створити записку про викуп (яких не буває в легальних програмах) – і це також було виконано.
Вісім місяців тому Марк Стоклі зробив висновок про те, що ми навряд чи незабаром побачимо програму-вимагач, написану ChatGPT. Тепер його думка змінилася. Пряма небезпека, на думку дослідника, полягає не лише в тому, що ChatGPT продукуватиме шкідливе ПЗ краще, ніж люди (хоча й цього не можна виключати) – а в тому, що у такий спосіб він знижує планку входу в кіберзлочинність, дозволяючи більшій кількості людей з меншими навичками створювати оригінальні зловмисні програми.
