Български институт в основата на нова платформа за оценка на AI модели

Европейският съюз вече разполага с инструмент за проверка на надеждността на изкуствения интелект, който е публично достъпен от днес. Той е резултат от съвместната работа на българския институт INSAIT, част от Софийския университет „Св. Климент Охридски“, швейцарската политехника ETH Zurich и компанията LatticeFlow AI. Европейската комисия официално призна този инструмент като първата стъпка към по-добра връзка между нормативната уредба в областта на изкуствения интелект и нейното практическо приложение.

През месец август влезе в сила Законът на ЕС за изкуствения интелект, който създаде глобален прецедент за регулиране на тази технология. Законът обаче поставя регулаторни изисквания на високо експертно ниво, без да предлага конкретни технически насоки, които компаниите трябва да следват. За да запълнят тази празнина, ETH Zurich, INSAIT и LatticeFlow AI разработиха първото техническо тълкуване на шестте основни принципа на европейския закон. Тази рамка за съответствие превръща законодателните изисквания в конкретни технически стандарти, предлагайки ясна методология за оценка на моделите на изкуствения интелект.

Това прави инструмента първият на европейско и глобално ниво, който осъществява връзка между нормативните изисквания и тяхното реално приложение. Проектът вече е признат на европейско ниво, като Европейската служба за изкуствения интелект го приветства и декларира, че това ще бъде отправна точка за изработване на общи регулации в областта на ИИ.

Според Томас Рение, говорител на Европейската комисия в областта на цифровата икономика, научните изследвания и иновациите, този инструмент е първата стъпка към прилагането на Акта за ИИ на ЕС в конкретни технически изисквания, което ще помогне на създателите на модели на ИИ да го приложат по-лесно.

На базата на техническото тълкуване е изработен и инструмент за оценка на големи генеративни езикови модели (LLM), който вече е достъпен на следния адрес. Той предоставя информация за съответствието на някои от най-популярните модели на изкуствен интелект, разработени от компании като OpenAI, Meta, Alibaba и Anthropic, с европейските изисквания. Също така, всяка компания може да оцени доколко разработените от нея модели отговарят на Закона за изкуствения интелект.

Проф. Мартин Вечев, създател на INSAIT и професор в ETH Цюрих, приканва изследователите, разработчиците и регулаторните органи да се включат в развитието на този проект. Той подчертава, че инструментът може да бъде разширен за оценка на модели спрямо бъдещи регулации извън ЕС, като го прави ценен за организации, работещи в различни юрисдикции. Повече информация и достъп до рамката можете да намерите тук. 

До 15 ноември: Подгответе автомобила си за зимния сезон с подходящи гуми