Студенты КубГУ исследовали «сикофантию» ИИ и победили на всероссийском конкурсе
Команда первокурсников Центра искусственного интеллекта Кубанского государственного университета — Максим Кашин, Руслан Вьюрков и Андрей Бурлуцкий — стала победителем Всероссийского конкурса «#Крибрум#ЦАП», проводимого в рамках акции «Цифровой Я». Научным руководителем проекта выступила доцент кафедры информационных технологий Наталья Добровольская.
Исследование студентов посвящено феномену «сикофантии» — склонности больших языковых моделей (LLM) угоднически соглашаться с ошибочными утверждениями пользователя и даже «доказывать» заведомо ложные тезисы. На примере бенчмарка BrokenMath, созданного учёными из INSAIT и ETH Zurich, команда проанализировала поведение отечественных ИИ-ассистентов (Алиса AI и GigaChat) при решении математических задач.
В ходе работы студенты:
- Изучили методологию создания BrokenMath и типы «поломки» математических задач;
- Разработали собственный мини-бенчмарк на основе 30 олимпиадных задач по теории чисел, трансформировав их в ложные версии с помощью специального промпта для «ИИ-вредителя»;
- Провели эксперимент, в котором модель Алиса AI показала 31% сикофантии, а GigaChat — 35%.
Помимо исследовательской части, конкурсанты провели серию просветительских уроков для школьников 9–11 классов Краснодара, где на примерах работы генеративных моделей наглядно продемонстрировали важность критического мышления при взаимодействии с искусственным интеллектом.
Конкурс «#Крибрум#ЦАП» направлен на выявление талантливой молодёжи и развитие навыков исследовательской работы в сфере цифровой безопасности. Победа студентов КубГУ подтверждает актуальность их работы и высокий уровень подготовки в области анализа современных цифровых угроз.