Anthropic очаква нова киберзаплаха от самокопиращ се софтуер с изкуствен интелект

Зловреден софтуер с изкуствен интелект може скоро да започне да заразява умни телевизори, охранителни камери и други свързани устройства в домовете. След това той би могъл да използва изчислителните им ресурси, за да се самокопира и да се разпространява към други устройства. За тази възможност предупреждава Anthropic в ново изследване, публикувано в понеделник.

Компанията очаква подобни заплахи да станат по-реалистични през следващите месеци, ако AI моделите продължат да се развиват със сегашните темпове.

„Очакваме бъдеще, изпълнено с агенти, работещи на всякакъв вид хардуер, включително на устройства, които не са под човешки контрол“, посочват изследователите.

Компютърните червеи са вид зловреден софтуер, който може да се копира самостоятелно и да се разпространява между машини. Обикновено те сканират мрежата за други уязвими устройства и ги заразяват без необходимост от постоянна намеса на нападателя.

Според Anthropic AI агентите могат да придобият подобни възможности. Изследователите обръщат специално внимание на устройствата от т.нар. интернет на нещата (IoT). В тази категория попадат умните телевизори, хладилниците, осветлението, роботизираните прахосмукачки, охранителните камери и дори свързаните тоалетни.

Много от тези устройства са уязвими заради недостатъчната защита и софтуерните слабости. Някои се произвеждат от компании със съмнителни практики за сигурност, а потребителите невинаги променят фабричните пароли или конфигурират правилно домашната си мрежа.

В същото време дори сравнително евтината потребителска електроника разполага с все по-мощни процесори. Това може да позволи на малки AI модели да работят директно върху устройствата, които са превзели.

„Графичните процесори в центровете за данни биха били очевидна и ценна цел за подобен зловреден софтуер“, пишат авторите на доклада. Те обаче предупреждават, че „IoT устройствата - които са евтини и обикновено слабо защитени — също могат да осигурят достатъчно изчислителна мощност за работата на способен модел“.

Предишни изследвания са разглеждали възможността AI червеите да пренасят параметрите на собствения си модел при всяко копиране. Така те биха могли да се разпространяват между устройствата и да изпълняват AI задачи върху хардуера, който вече са превзели.

При по-слабите домашни устройства процесът вероятно ще бъде бавен. Изследователите сравняват възможния резултат с „дигитална слузеста плесен“ — система, която постепенно се разраства и разпространява в свързаната среда.

В рамките на тестовете си екипът установява, че лек AI модел може да работи върху 15 телевизионни устройства, всяко от които разполага с едва 4 GB оперативна памет. Изследователите откриват и друга потенциално опасна особеност: AI агентите могат да се ориентират в непознати устройства без помощта на човек.

„Макар IoT устройствата да са уязвими от дълго време, леките агенти може да са много по-склонни от човешките нападатели да положат усилия, за да компрометират голяма част от изчислителните ресурси на IoT устройствата по света“, предупреждава докладът.

Anthropic уточнява, че засега изследователите не са създали напълно автономен зловреден софтуер, способен да се самокопира и разпространява без контрол. Отделните стъпки, необходими за подобна атака обаче, стават все по-достъпни за AI агентите.

Това означава, че описаният сценарий все още не е реализирана заплаха в пълния си вид. Според компанията обаче развитието на AI може да улесни създаването на зловреден софтуер, който използва слабостите на свързаните устройства и се разпространява с минимална човешка намеса.