Безопасность и этика искусственного интеллекта

Белгибаева Л.М. – Магистр технических наук, сеньор-лектор,

Саттыкова Б.Е. – Магистр технических наук, ассистент,

1. Характеристика МООК

1.1 Цель изучения: Сформировать у обучающихся системного понимания принципов безопасной, надежной, ответственной и этичной разработки и применения систем искусственного интеллекта, а также практических навыков выявления, оценки и снижения рисков AI-систем.

1.2 Задачи изучения:

• Познакомить обучающихся с основными принципами безопасности систем искусственного интеллекта, потенциальными угрозами и рисками, способами защиты данных, а также этическими и правовыми нормами применения ИИ-технологий.
• Научить выявлять и оценивать уязвимости и потенциальные угрозы ИИ-систем, разрабатывать и внедрять меры безопасности, обеспечивать защиту данных и принимать решения с учетом принципов ответственного и этичного использования искусственного интеллекта.
• Выработать навыки анализа надежности и безопасности ИИ-систем, оценки этических последствий их применения, соблюдения конфиденциальности и ответственности при разработке, внедрении и эксплуатации технологий искусственного интеллекта.

1.3 Результаты обучения: Оценивает потенциальные угрозы ИИ-систем, внедряет меры безопасности и учитывает этические принципы при их применении.

2. Пререквизиты. Для освоения, данного МООК необходимы знания, умения и навыки, приобретённые при изучении следующих курсов. Введение в специальность

3. Постреквизиты. Знания, умения и навыки, полученные при изучении МООК необходимы для освоения следующих курсов. Надежность информационных систем

4. Количество академических кредитов/продолжительность МООК: 6 кредит

5. Уровень сложности курса: средний