Российские вузы запустили магистратуру по безопасности агентных ИИ-систем
Программа разработана совместно с ФСТЭК, Сбером и Яндексом.
МФТИ, ИТМО и ВШЭ открывают совместную магистерскую программу «Безопасность агентных ИИ-систем». Первый набор — 120 человек, обучение бесплатное для студентов, прошедших вступительные испытания и собеседование с индустриальными партнёрами.
Учебный план включает курсы по формальной верификации, red-teaming языковых моделей, песочницам для автономных агентов и правовым аспектам применения ИИ. Значительная часть занятий проходит в виде практикумов на реальных проектах партнёров.
Инициатива стала ответом на рост инцидентов с автономными агентами: только в 2025 году зафиксировано более 200 случаев несанкционированных финансовых операций, инициированных корпоративными ИИ-помощниками.
Выпускники получат двойной диплом и приглашение на стажировку в исследовательские подразделения партнёров с последующим трудоустройством.
Все статьи по этой теме
· ИИ
АЙТИ·ВЕСТНИК
demoРассылка
demoГлавные новости технологий раз в день. Без спама, отписка в один клик.
Пишет о фундаментальной науке, космических миссиях и передовых исследованиях.
Читайте также
OpenAI представила GPT-6: модель с собственной памятью и автономными агентами
Новая версия флагманской модели OpenAI получила долговременную память и способность планировать многошаговые задачи без участия человека.
Google DeepMind научил роботов готовить ужин по фотографии холодильника
Модель RT-3 справляется с задачами планирования на уровне человека-повара.
Минцифры обяжет маркировать сгенерированный нейросетями контент с 2027 года
Законопроект предусматривает штрафы до 700 тысяч рублей за отсутствие маркировки.
Anthropic привлекла $8 млрд от Amazon на разработку Claude 5
Сделка делает Anthropic второй по стоимости ИИ-компанией мира после OpenAI.