Йдеться про ризики конфіденційності для підлітків. Регулятор висловив занепокоєння.
Офіс уповноваженого з питань інформації (ICO), регулятор із захисту даних Сполученого Королівства, надіслав компанії Snap попереднє повідомлення про примусове виконання, в якому йдеться про ризики конфіденційності чат-бота My AI, особливо для 13-17-річних користувачів. Повідомлення не є остаточним, і компанія матиме можливість виправити названі проблеми. Якщо ж повторні висновки регулятора будуть невтішними, Snap доведеться відключити My AI у Великобританії та припинити збір та обробку будь-яких даних від користувачів застосунку Snapchat.
Попередні результати нашого розслідування свідчать про тривожну нездатність Snap належним чином визначити та оцінити ризики конфіденційності для дітей та інших користувачів перед запуском «My AI».
уповноважений з питань інформації Джон Едвардс
Представники Snap заявили, що уважно вивчають попереднє рішення ICO, всіляко прагнуть захистити конфіденційність своїх користувачів, а їхній ШІ пройшов усі належні юридичні та безпекові перевірки, перш ніж стати загальнодоступним. За даними компанії, понад 150 млн осіб користувалися чат-ботом із ШІ. Він працює на базі ChatGPT OpenAI, має функцію сповіщення батьків про те, що їхні діти використовують чат-бот, і дістав загальні вказівки утримуватися від образливих коментарів. Проте My AI не вперше привертає увагу регуляторів, зокрема, через поради 15-річному підлітку, як приховати запах алкоголю та марихуани.
Інші форми генеративного ШІ також зазнають критики. Нещодавно «дісталося» генеративному ШІ Bing, що його на скандальному форумі 4chan використовують для тролінгу і створення образливих мемів. Утім, питання, чи це ШІ винен у расистських та екстремістських настроях реальних користувачів, залишається відкритим. Людям все дозволено, та не все корисно, а ШІ в цьому разі виступає як дзеркало – і відбиття в нім не завжди приємне.
