ХАКАТОН ЗА КОНТРОЛ ВЪРХУ РАЗВИТИЕТО НА ИЗКУСТВЕНИЯ ИНТЕЛЕКТ

Организаторите AISafety Bulgaria и Resonator вярват, че все още не е късно да направим нещо - и предлагат да го направим заедно

Mihajlo Nikolic

23 февруари 2025 г.

ТехнологииОбразование

Сдружение „Безопасен изкуствен интелект България“ е съвсем нова организация, която работи едва от миналата година, но от самото начало си поставя амбициозни цели: да повишава информираността както за съвременните, така и за потенциалните бъдещи рискове, породени от изкуствения интелект, и да поддържа платформа за обучение, научни изследвания и открит диалог, за да подпомогне безопасното интегриране на ИИ в обществото. „Хората трябва да знаят за тези неща“, казва убедено Александър Ангелов, председател на управителния съвет на организацията.

„И нашата амбиция е да говорим масово за сегашните проблеми и опасности, като успоредно с това привличаме капацитети, които да работят върху решаването на проблемите на бъдещето.“

Разграничението е важно в контекста на това, че повечето хора сякаш попадат в един от два лагера по отношение на ИИ. Едните приемат неизбежността на навлизането на тази технология във всички сфери на човешкия живот и са по-скоро предпазливи оптимисти. За тях най-голямото предизвикателство пред нас като хора е да се научим навреме да работим заедно с ИИ, за да се развиваме и допълваме помежду си. (В Resonator често сме се срещали с представители на този лагер.) Другите са загрижени както от темповете, с които се развива ИИ, така и от липсата на адекватни мерки за контролиране – и дори проследяване – на тези темпове. Както може да се очаква, Александър клони към вторите:

„Вярвам, разбира се, в потенциала на ИИ да решава проблеми, с които човечеството към момента не може да се справи само. Например научни изследвания, проучване и развитие, в които ИИ ще помага на учените или самостоятелно ще развива такава дейност. Това има огромен потенциал за решаването на проблеми в медицината, климатичните промени и всяка друга сфера. Достатъчно е да се види какви открития бяха удостоени с Нобелова награда за физика и химия, например, за да се убедим в този потенциал. Но в същото време трябва да бъдем особено предпазливи, защото към момента просто нямаме адекватни механизми за контрол.“

Според Александър, проблемът не е само в липсата на общоприето международно законодателство и обща политическа воля да бъдат създадени и наложени адекватни правила – а и в липсата на технически механизъм, с който да бъдат налагани тези правила и да бъде осъществяван контрол.

„Ако направим популярното сравнение с ядрените оръжия в контекста на надпреварата във въоръжаването, към момента по цялото земно кълбо има сензори, които могат да засекат съответната сеизмична активност и да я свържат с взривяване на ядрена глава. За ИИ все още няма адекватни технически средства, с които да се регистрира кога се случват такива неща – кога и къде, например, се провежда обучение на особено голям модел, който надхвърля определени предварително зададени параметри на работа.“

Именно това ще бъде целта на хакатона, организиран от AISafety Bulgaria в партньорство с Resonator. Предизвикателството ще бъде хардуерно: изграждане на нови методи за проверка и защита на ИИ хардуер. Участниците ще работят с най-съвременно оборудване за мониторинг, в колаборация с международно признати експерти по хардуерна сигурност, и ще имат възможността да разработят потенциално ключови инструменти за ИИ управление и контрол. Александър конкретизира: „Има много различни сфери, в които ИИ може да тръгне на зле, но този хакатон се фокусира конкретно върху тази – как да хващаме, когато някъде се обучава много голям ИИ. С фокус върху технически решения – за засичане на хардуерно ниво.“

От условията на предстоящия хакатон разбираме, че участието е безплатно, а партниращата организация Apart Research предоставя както експерти/ментори по време на хакатона, така и награден фонд от общо 2000 долара (първа награда 1000 долара). Състезанието започва на 14 март (петък) вечерта и продължава до 16 март (неделя), като ще се проведе в Resonator.

Влизаме в ролята на адвокат на дявола, за да зададем въпроса доколко е реалистично в рамките на два дни, в София, от хора, които се състезават за 1000 долара, да се предложи нещо конкретно, което наистина да може да свърши работа за контролирането на развитието на ИИ. Александър отговаря спокойно: „Разбира се, че не се очаква нещо, което да свърши работа още този уикенд. Но като организация на световно ниво, Apart Research поема ангажимента за по-нататъшно развитие на проектите, в които вижда потенциал – или в колаборация с някоя от големите компании в тази сфера, с които си партнира, или с вътрешен ментор от организацията, който да помогне на съответния участник/екип да развие идеята си. Организирали сме и други събития, но този хакатон е особено добър пример за начина, по който искаме да работим:

целта ни е да бъдем първото стъпало, на което да стъпи човек, ако иска да се развива професионално в областта на безопасността на ИИ.

Защото разполагаме с много ресурси и контакти и можем да помогнем на всеки, като го снабдим с необходимата информация и го свържем с подходящите хора, организации и компании.“

Разговорът ни продължава от конкретната тема за хакатона към по-общата за рисковете и опасностите, с които е свързано развитието на ИИ. И няма нужда да навлизаме в сферата на прогностиката, какво остава за научната фантастика, защото рисковете и опасностите вече са налице – дори на сегашния етап на развитието на ИИ. Александър изброява: предоверяването на модели, които имат склонност да „халюцинират“, като се отклоняват от действителността; критериите за избор на данните, по които се тренира даден модел; въпросът за интелектуалната собственост, както и за личните данни, които подават потребителите в моделите… и всичко това още преди да стигнем до разнопосочните стандарти в отношението към развитието на ИИ в трите основни „ядра“, в които се случва това към днешна дата: Европа с нашите по-строги регулации, но и все по-силните гласове за разхлабването на законовите ограничения, за да не изостанем фатално от конкуренцията; САЩ с противоречивите сигнали, които подават през последните години; и „черната кутия“ на BRICS+, в която водещо място заема Китай с дългосрочната си стратегия за първостепенно развитие на ИИ. По думите на Александър: „В тази „надпревара във въоръжаването“, всички правят компромиси с безопасността в стремежа си да излязат на първо място.“

Александър ни препоръчва уебсайта на Pause AI като портал за още информация и гледни точки по темата, както и специализираната страница на Apart Research за предстоящия хакатон.

В този момент в разговора се включва и Михайло Николич от Resonator, за да даде малко по-общ поглед върху темата за развитието на ИИ. „Ако гледаме на ИИ като на инструмент - а за момента ИИ си остава това - основният риск е как го използваме ние, хората. Защото ни е известно, че сме добри в това да можем да превърнем всеки инструмент в оръжие. Колкото до автономните ИИ системи, с които ни предстои да се научим да работим и живеем съвсем скоро, има нужда да помислим сериозно върху това колко автономност и за какво даваме, колко контрол запазваме и как.“

Според Михайло, ключовите въпроси са как можем да защитим подобни сложни системи от погрешното им използване, как защитаваме данните си от неправомерно използване и самите себе си от манипулация от страна на системи, които разчитат на нашите лични данни за това, и как можем да създаваме ИИ системи, които да спазват човешките общоприети норми и морални ценности. И по-конкретно: как да сме сигурни, че целите ни се припокриват и можем активно да следим, че не се разминават? И как да направим така, че когато дадем правомощия на тези системи, да запазим сигурността си, че никой няма възможност да ги атакува и да получи достъп до тях?

Така стигаме и до предстоящия хакатон, който също е по темата за въвеждането на различни подходи за поддържане на контрол върху напредналите ИИ системи.

„Например въможност за прекъсване и „авариен бутон““, изброява Михайло. „Или техниките за изолиране на ИИ – така нареченият „sandboxing“, който ще бъде използван като среда и по време на хакатона. Както и контрол на способностите с ограничаване по конкретни предназначения, поощряване и наказание, механизми за стимулиране за правилно изпълнение на задачите…“

Темата явно е потенциално безкрайна, така че се разбираме засега да спрем дотук, за да се срещнем отново на самия хакатон, когато ще можем да си поговорим и с участниците в него за конкретните им идеи.

А междувременно…

За регистрация в хакатона тук.

Повече за организаторите на международно ниво Apart Research тук.

Повече за Сдружение „Безопасен изкуствен интелект България“ тук.