В Великобритании создана платформа для оценки безопасности ИИ
Британский Институт безопасности Искусственного интеллекта (AISI) запустил платформу Inspect, предназначенную для тестирования и оценки безопасности ИИ в промышленных, исследовательских и научных организациях.
Платформа Inspect состоит из трех основных компонентов – наборов данных, инструментов решения и инструментов оценки.
Наборы данных – это образцы для оценочных тестов. С помощью инструментов решения выполняется работа по проведению тестов, а инструментов оценки – оцениваются результаты и суммируются баллы тестов в метрики.
Компоненты Inspect можно дополнить сторонними пакетами, написанными на языке программирования Python.
Председатель Британского Института безопасности ИИ Ян Хогарт выразил надежду на то, что глобальное сообщество ИИ будет использовать платформу Inspect не только для проведения собственных испытаний на безопасность моделей, но и для адаптации и развития платформы с открытым исходным кодом.
В прошлом месяце Национальный институт стандартов и технологий США (The National Institute of Standards and Technology, NIST) объявила о запуске программы NIST GenAI, предназначенную для оценки различных технологий генеративного ИИ, включая модели, генерирующие текст и изображения.
ORIENT news
