През последните месеци технологичните компании OpenAI и Anthropic съобщиха за няколко случая с техни агенти с изкуствен интелект, които са хакнали външни системи – на компании, а последно се разбра, че агентите са проникнали и в няколко уебсайта на австралийското правителство.

За всички случаи беше съобщено няколко месеца след хакерските атаки на агентите. Например проникването в сайтовете на австралийското правителство е станало през юни тази година, но страната съобщи за това чак на 24 септември, съобщи „News.bg“.

Паралелно с това, изследователи в областта на изкуствения интелект предупредиха, че технологията се развива по-бързо от очакваното, което поставя сериозни въпроса за регулациите и безопасността на развитието на ИИ.

В началото на септември OpenAI настоя за задължителни национални правила в САЩ заради опасения, че технологията може да ускори собственото си развитие, като се позова на случаите с нелоялните агенти с изкуствен, които проникнаха в системите на няколко компании.

От своя страна обаче 80-годишният американски президент Доналд Тръмп отхвърли предупрежденията, определи ги като измама и дори на 19 септември обяви сформирането на специална организация – „сили за изкуствен интелект (ИИ)" – която да развива тази индустрия.

В публикация в Truth Social той заяви: „Няма да възпрепятстваме или задържаме тази невероятна индустрия по никакъв начин. Напротив, ще я подхранваме, ще я подкрепяме и ще я наблюдаваме как расте."

Темата за безопасността за развитието на ИИ беше засегната и в речта от 16 септември на председателя на Европейската комисия (ЕК) Урсула фон дер Лайен за състоянието на Европейския съюз. Тя специално спомена инцидента от това лято, при който агенти на OpenAI проникнаха в системите на компанията за ИИ HuggingFace и подчерта, че ЕС вече разполага със законодателство по този въпрос – Законодателния акт за изкуствения интелект (AI Act) от 2024 г.

По повод това законодателство обаче в интервю за „Политико“ германският евродепутат Аксел Фос заяви, че Актът „не е на нивото, на което бихме искали да бъде“. Той отправи критики към ЕК, че изостава на темпото на развитие на технологиите за изкуствен интелект. „Целият работен подход на Европейската комисия не е адаптиран към тези изключително бързо променящи се процеси на развитие“, подчерта Фос.

Законодателният акт за ИИ беше приет на 1 август 2024 година. Той е първият подобен регламент за изкуствен интелект, който адресира рисковете, свързани с него. Беше предвидено Актът да започне да се прилага чак от 2 август 2026 година – или това са 2 години след официалното му приемане.

Все пак от 2 февруари 2025 г. се прилагат някои забрани, свързани с употребата на ИИ, записани в чл. 5 от Законодателния акт. Те са следните:

• Използването на система с ИИ, която действа на подсъзнанието на човек и умишлено го манипулира да вземе определено решение, което може да е вредно за него или за околните
• Използване на уязвимите места на човек, дължащи се на възраст, увреждане или конкретно социално или икономическо положение, с което може да се повлияе на човека той да вземе определено решението, вредно за него и околните;
• Пускането на система с ИИ с цел оценка или класифициране на физически лица или групи от лица през определен период от време въз основа на тяхното социално поведение или известни, изведени или предполагаеми лични или личностни характеристики, като социалната класация води до едната или и до двете посочени последици: увреждащо или неблагоприятно третиране на определени физически лица или на групи лица в социален контекст, който няма връзка с контекста, в който първоначално са били генерирани или събрани данните и увреждащо или неблагоприятно третиране на определени физически лица или на групи лица, което е неоправдано или непропорционално с оглед на тяхното социално поведение или на тежестта, която му се отдава;
• Използването на система с ИИ за извършване на оценки на риска по отношение на физически лица с цел да се прецени или предвиди вероятността дадено лице да извърши престъпление, въз основа единствено на профилирането му или на оценката на личностните му черти и характеристики – тази забрана не се прилага за системи с ИИ, използвани за подпомагане на извършването от човек на оценка на участието на дадено лице в престъпна дейност, която вече е изградена на основата на обективни и проверими факти, пряко свързани с престъпна дейност, се уточнява в Акта;
• Пускането на системи с ИИ, които събират данни за разпознаване на лица чрез нецеленасочено извличане на лицеви изображения от интернет или записи от видеонаблюдение;
• Пускането на система с ИИ, които направят заключения за емоциите на дадено физическо лице на работното място или в образователните институции, освен в случаите, когато системата с ИИ е предназначена да бъде внедрена или пусната на пазара по медицински съображения или съображения, свързани с безопасността;
• Използването на ИИ за биометрично категоризиране, които категоризират по индивидуализиран начин хора въз основа на техните биометрични данни с цел да се направят заключения или логически изводи за тяхната раса, политически възгледи, членство в синдикални организации, религиозни или философски убеждения, сексуален живот или сексуална ориентация – тази забрана не обхваща обозначаването или филтрирането на законно придобити набори от биометрични данни, например основани на биометрични данни изображения, или категоризиране на биометрични данни в правоохранителната област;
• Използването на системи за дистанционна биометрична идентификация в реално време на обществено достъпни места за правоохранителни цели, освен ако и доколкото такова използване е строго необходимо за една от следните цели: целево издирване на конкретни жертви на отвличане, трафик на хора и сексуална експлоатация на хора, както и издирване на изчезнали лица; предотвратяване на конкретна, значителна и непосредствена заплаха за живота или физическата безопасност на физически лица или на действителна и настояща или действителна и предвидима заплаха от терористично нападение; установяване на местонахождението или самоличността на лице, заподозряно в извършването на престъпление, за целите на провеждането на разследване или наказателно преследване или на изпълнението на наказание за престъпления, посочени в приложение II и наказуеми в съответната държава членка с лишаване от свобода или мярка за задържане с максимален срок не по-малко от четири години

От 2 декември 2026 година ще се забрани и използването на системи с ИИ за генериране/манипулиране на интимно/сексуално съдържание без съгласие и материали със сексуално насилие над деца.

Но по-голямата част от Законодателния акт е свързан с регулацията на високорисковия изкуствен интелект, който се използва например в критичната инфраструктура, образованието правоохранителна дейност, миграция и граничен контрол, правосъдието и други.

За използването на системи с ИИ в тези области Законодателния акт налага изисквания за оценка и намаляване на риска, качество на данните, логове, техническа документация, прозрачност, човешки надзор, точност, устойчивост и киберсигурност.

Изкуственият интелект с общо предназначение (GPAI) също попада под регулации, които започнаха да се прилагат от 2 август 2025 г., като за всички GPAI доставчици има например изисквания за техническа документация, политика за спазване на авторското право, публично обобщение на съдържанието, използвано за обучение.

За по-мощните модели GPAI има и допълнителни правила, които защитават потребителите от рискове от химически, биологични, радиологични и ядрени инциденти, загуба на контрол, кибератаки, вредни манипулации и други системни рискове, включително такива, засягащи основните права.

В регламента – в ч. 50 – има и задължения за прозрачност за доставчиците на системи с ИИ, които започнаха да се прилагат от 2 август 2026 година. Например, в определени случаи човек трябва да бъде информиран, ако разговаря с ИИ, а съдържанието, генерирано с ИИ, трябва да бъде обозначавано – изображения, аудио или видео съдържание. „Това задължение не се прилага, когато използването е разрешено по закон за разкриване, предотвратяване, разследване или наказателно преследване на престъпления.

Когато съдържанието е част от произведение или програма, които имат очевиден творчески, сатиричен, артистичен, художествен или подобен характер, задълженията за прозрачност, посочени в настоящия параграф, се ограничават до оповестяване на съществуването на такова генерирано или обработено съдържание по подходящ, ясен и видим начин, който не възпрепятства показването или използването на произведението“, се уточнява в Законодателния акт.

Автономни агенти с изкуствен интелект 

Въпреки че Законодателният акт на ЕС за изкуствения интелект въвежда задължителни регулации за безопасност за най-мощните GPAI модели със системен риск – доставчикът трябва да извършва оценка и намаляване на системните рискове, да провежда моделни оценки, включително състезателно тестване, да проследява, документира и докладва сериозни инциденти и да осигурява адекватно ниво на киберсигурност както на модела, така и на физическата му инфраструктура – регламентът не създава отделен общ режим за ИИ агентите, които самостоятелно могат да извършват определи действия – като да хакнат сайтовете на правителството на Австралия.

В него няма специфични задължителни правила, които да определят какво трябва да предприеме една частна технологична компания, когато автономен ИИ излезе от тестовата среда и започне да извършва непредвидени действия.

ЕК не отделя ИИ агентите в отделна категория, а по-скоро спрямо тях могат да се прилагат различни части от Законодателния акт, включително правилата за GPAI със системен риск или тези за високорискови ИИ системи.

Дали това ще се наложи – най-вероятно, но и трябва да се реагира бързо – нещо, неприсъщо на ЕК, която започна работа по Законодателния акт за ИИ през 2018 година и официално го приема през 2024 година. Докато обаче самият регламент започне да се прилага, минават още няколко години и се стига до момента, когато ИИ агенти стават автономни.

И тук трябва да се отбележи, че въпреки че по-голяма част от регламента започна да се прилага от 2 август 2026 година, правилата за високорисковите ИИ системи в чувствителните области като образование, критична инфраструктура, правоприлагане и др. ще започнат да се прилагат от 2 декември 2027 г., а от 2 август 2028 г. – правилата за високорисковия ИИ, вграден във вече регулирани от ЕС продукти – например в медицински продукти, железопътния транспорт, автомобили, авиотранспорта и оборудването и други.

А експерти в областта предупреждават – технологията се развива по-бързо от очакваното. OpenAI настоя за задължителни национални правила за безопасност предимно заради „перспективата за ускорено от изкуствен интелект развитие на изкуствен интелект“.

Регламентът на ЕС е добра основна рамка за правила, забрани и регулации на изкуствения интелект, но вече не говорим просто за ИИ модели, които генерират съдържание, а за системи, които действат самостоятелно.