LangBiTe: инструмент для оценки предвзятости генеративных моделей ИИ

Генеративные модели ИИ, такие как ChatGPT, обучаются на данных из интернета и могут иметь вредные или дискриминационные предубеждения. Исследователи из Открытого университета Каталонии (UOC) и Люксембургского университета разработали программу LangBiTe с открытым исходным кодом для оценки предвзятости моделей и их соответствия законодательству. LangBiTe был создан не для коммерческих целей, а для разработчиков и пользователей генеративного ИИ. Он должен помочь выявлять и устранять предвзятость в моделях для создания более совершенных ИИ. Серхио Моралес, исследователь из исследовательской...