безопасность ИИ
Модель весом в сотни гигабайт скачивается на домашний компьютер за пару часов. Через день она уже отвечает на вопросы, от которых разработчик предпочёл бы уклониться. Ни регистрации, ни модерации, ни привычного «извините, я не могу помочь». Технически это не взлом и не подвиг — это обычное следствие того, что веса модели однажды выложили в открытый…
Представьте лабораторию, которая вот-вот выпустит модель, умеющую планировать на несколько шагов вперёд, писать рабочий код и довольно убедительно объяснять, почему она права. Внутренние тесты пройдены, отчёты готовы, пресс-релиз написан. А теперь неудобный вопрос: кто, кроме самих разработчиков, может подтвердить, что система действительно ведёт себя так, как описано? Именно здесь на сцену выходят независимые аудиторы ИИ….
Представьте: где-то в серверной стойке мигает красная кнопка, а рядом — человек, у которого есть полномочия остановить самую мощную модель искусственного интеллекта. Звучит как сюжет фантастики, но именно об этом всерьёз говорят разработчики и регуляторы. На фоне новых призывов замедлить развитие передовых ИИ-систем эксперты обсуждают, что может представлять собой аварийный «выключатель» и кто получит право…