Революція в галузі ШІ буде потужнішою за інтернет-революцію.
Мікко Гіппьонен, головний науковий співробітник у F-Secure Corporation, куратор музею шкідливого ПЗ, експерт з глобальної кібербезпеки і мисливець за хакерами, дав цікавий прогноз на 2024 рік щодо розвитку і загроз ШІ. «Штучний інтелект змінює все», – каже пан Гіппьонен, і, хоча загалом він налаштований позитивно, все ж таки радить зважати на 5 основних загроз, які може нести ШІ.
1. Діпфейки.
Дослідники вже давно називають діпфейки чи не найтривожнішими спробами використати ШІ зі злочинною метою. І хоча поки що їх доволі легко виявляти, з розвитком генеративного ШІ ситуація майже напевне зміниться. Кількість спроб шахрайства з використанням діпфейків торік зросла на 3000 %, і з’являються вони не лише на полі інформаційної війни. Не за горами той час, коли колега або родич, з яким ви розмовляєте через відеозв’язок, попросить зробити грошовий переказ чи надати конфіденційні документи, а ви й гадки не матимете, що перед вами – несправжня людина. Щоб уникнути цього, пан Гіппьонен радить на позір кумедний і старомодний, але дієвий спосіб – секретне слово. Перш ніж виконати прохання, особливо фінансове, спитайте у співрозмовника секретне слово, відоме тільки вам двом.
2. Велике шахрайство.
Слово «велике» тут позначає і масштаби та охоплення аудиторії, і швидкість поширення шахрайських схем. З появою генеративного ШІ зловмисникам більше не доведеться вручну шукати фото для приманок чи перекладати тексти через Google Translate, ризикуючи, що носій мови прочитає щось штибу «підлога країни» чи «пекельні борошна». Інвестиційне, фінансове, шлюбне шахрайство, фішинг, махінації з нерухомістю… з ШІ можливе все. «Замість 3 чи 4 жертв ви можете обдурити десятки тисяч», – зазначає Мікко Гіппьонен. Способів протидії цьому вкрай мало, і один з них – теж давно відомий – полягає в тому, щоб уникати передплат, або використовувати перевірені системи «безпечної оплати», а другий – щоб платити тільки за те, що ви бачили на власні очі, особливо коли йдеться не про річ ціною у кілька доларів, а, приміром, про аванс за оренду будинку чи квартири.
3. Шкідливе ПЗ із підтримкою LLM.
ШІ вже пише зловмисне ПЗ. Ці програми ще не знаходять в реальних мережах, але вони опубліковані на GitHub – і вони працюють. «Черв’яки» використовують API OpenAI, щоб генерувати різний код для кожного пристрою, який заражають. OpenAI може внести в «чорний список» поведінку шкідливого ПЗ, однак, за можливості завантаження всієї LLM і її локального запуску, цього можна уникнути. Саме тому, з міркувань безпеки, у нинішніх систем ШІ закритий вихідний код.
4. Виявлення вразливостей нульового дня.
Гарна опція, якщо ви – розробник ПЗ, і шукаєте вразливості у своєму коді, щоб виправити їх. І погана, якщо за допомогою ШІ хтось шукає вразливості у вашому коді, щоб експлуатувати їх. Дослідження, проведене у компанії WithSecure, продемонструвало можливість такого розвитку подій – отримавши права звичайного користувача для доступу до командного рядка на комп’ютері з ОС Windows 11, тамтешній стажист повністю автоматизував процес сканування на наявність вразливостей і став локальним адміністратором. Це дослідження компанія засекретила.
5. Автоматизоване шкідливе ПЗ.
Автоматизована система захисту від кіберзагроз давала компаніям, що її використовували, перевагу перед зловмисниками, які значною мірою покладалися на ручні операції. Нині кіберзлочинці отримали шанс скоротити цей розрив, повністю автоматизувавши кампанії з поширення шкідливого ПЗ. Ця гра, яку пан Гіппьонен описує як протистояння «хорошого ШІ та поганого ШІ», та вважає поточною загрозою №1, може початися вже цього року.
У Мікко Гіппьонена є теорія щодо безпеки Інтернету речей, яка стверджує – щоразу, коли пристрій описується як розумний, він є вразливим. Якщо цю гіпотезу можна застосувати до суперрозумних машин, ми можемо втрапити у велику халепу. І, на думку пана Гіппьонена, це може статися за його життя. Щоб зберегти належний контроль над штучним генералізованим інтелектом, люди мусять створювати його відповідно до своїх довгострокових цілей і потреб. Чи вдасться це людству, ми скоро побачимо.
