Лихванова_Ксения_и_Чугуева_Софья_РПО_25_283_ПЗ4

1. Этика в действии: кейс по распространению информации

Работу выполнили студентки:
Лихванова К.С.
Чугуева С.А.

2. Ответственность за ИИ-сгенерированный код в продакшене.

Кто несет юридическую и репутационную ответственность, если автодополнение кода (например, GitHub
Copilot) внедрило уязвимость, украло чужой запатентованный алгоритм или нарушило лицензию?
Эта тема этически значима, потому что ИИ размывает цепочку
подотчетности, создавая риск выпуска в продакшен
предвзятых, небезопасных или украденных алгоритмов, за
последствия которых никто не хочет нести ответственность. В
условиях непрозрачности нейросетей возникает конфликт
между скоростью разработки и моральным долгом инженера
не причинять вред пользователям, сохраняя полный контроль
над результатом.

3.

3.Промпты и логика их составления
Номер промта
Промт
1
Перечисли, какую информацию о ИИ в продакшене категорически нельзя публиковать в открытом доступе, и объясни почему с точки
зрения закона и профессиональной этики.
2
Разработчик использовал ИИ-ассистента для написания функции, и в продакшен попал фрагмент кода, защищенный чужим патентом.
Сторонний правообладатель подал в суд на компанию. Проанализируй, кто с юридической точки зрения будет нести ответственность за
нарушение интеллектуальной собственности: разработчик, нанявшая его компания или вендор ИИ-инструмента? Приведи аргументы
для каждой стороны на основе текущей международной практики.
3
Представь, что ты CTO крупной IT-компании. Составь корпоративную политику (AI Governance Policy) для разработчиков по
использованию ИИ при написании коммерческого кода. Политика должна минимизировать юридические и репутационные риски
компании, но при этом не замедлять скорость разработки. Выдели 5 главных правил и санкции за их нарушение.
4
ИИ-помощник сгенерировал блок кода для работы с базой данных, который содержал скрытую уязвимость (например, SQL-инъекцию).
Код прошел код-ревью и попал в релиз, после чего систему взломали и произошла утечка данных. Опиши пошаговый алгоритм
расследования инцидента: как определить степень вины ИИ и команды разработки, и какие технические регламенты (метрики, тесты)
нужно внедрить, чтобы исключить подобное в будущем?
5
Если ИИ-системы начнут массово генерировать код, который превосходит по качеству код человека, как изменится концепция
"профессиональной ответственности" программиста? Должен ли разработчик будущего превратиться исключительно в этического и
юридического цензора (валидатора) ИИ-решений, и какие новые репутационные риски для бренда компании это несет?

4. 3. Результаты работы ИИ

Показательная цитата (из ответов GigaChat):
«Ответственность не исчезает — она смещается с ручного написания к управлению результатом. Разработчик
отвечает не за каждую строку лично, а за то, что система решает нужную задачу безопасно, проверяемо и
сопровождаемо. Должен ли разработчик стать только валидатором? Нет, роль валидатора станет важнее, но
не будет единственной: инженеру по-прежнему нужны навыки формулировать требования, оценивать
архитектуру и принимать решение о выпуске кода.»
Комментарий к результатам:
Что полезно: Модели (особенно ChatGPT и Google AI) дали глубокую юридическую
экспертизу: привели четкие статьи законов РФ (ФЗ-152, ст. 1261 ГК РФ, ст. 272–274.1
УК РФ), концепцию Explainable AI и принципы построения закрытых корпоративных
контуров.
Что вызвало сомнения: В некоторых моделях (Алиса AI) проявился уход в
публицистику и ссылки на прецедентное право США (вместо законодательства РФ), а
UnlimAI иногда требовал калибровки из-за избыточной генерализации формулировок.

5. 4. Оценка моделей ИИ по критериям

• Оценка 5 нейросетей по 5 критериям (шкала 1–5):
Название ИИ
Надежность
Полнота
Актуальность Объективнос
ть
Этичность
Итог(Средни
й балл)
Chat GPT
5.0
5.0
5.0
5.0
5.0
5.0
GigaChat
3.8
4.4
4.6
4.6
5.0
4.48
Google AI
4.8
5.0
5.0
4.4
5.0
4.84
UnlimAI(чат-бот)
4.8
4.8
5.0
4.8
4.8
4.84
Алиса AI
4.2
3.8
5.0
4.0
5.0
4.4
Обоснование оценок:
• Высший балл (Google AI
/ ChatGPT/UnlimAI): Эталонное соблюдение нормативного поля РФ (ФЗ-152, УК РФ, ГК РФ), детальный разбор рисков Shadow AI и
практический инженерный уклон.
• Снижение балла (Алиса AI): Смещение в сторону художественного стиля, недостаточная глубина технического разбора архитектуры и
подмена российских законов американской практикой.

6. 5. Диаграмма критериев и анализ распространения информации

Объективность
Надежность
Полнота
Этичность
Актуальность
4,3
4,4
4,5
4,6
4,7
4,8
4,9
5
Самый сильный критерий: Этичность (4,96) - демонстрирует устойчивое следование принципам этики на всех этапах своей работы:
от сбора и обработки данных до принятия решений и взаимодействия с пользователями.
Самый слабый критерий: Надежность (4,52) – системы могут давать ошибочные ответы, могут происходить сбои и аварийные
завершения работы.

7. Вывод

Выявленные этические риски:
• Использование ИИ-инструментов размывает цепочку ответственности, что создает риск выпуска
небезопасного или предвзятого кода в продакшен.
• Существует вероятность внедрения патентов и лицензий третьих лиц без ведома разработчиков.
При этом ответственность за нарушение интеллектуальной собственности чаще всего ложится не
на поставщика инструмента (вендора), а на компанию-разработчика продукта.
• Публикация информации о работе с ИИ может нарушать коммерческую тайну, персональные
данные клиентов и сотрудников, а также конфиденциальную информацию партнеров.
Как минимизировать эти риски в реальной работе программиста?
1.
Использовать только корпоративно одобренные инструменты для работы с кодом.
2.
Перед отправкой любого фрагмента кода в ИИ удалять все секретные ключи, токены, пароли и
идентификаторы пользователей.
3.
Внедрить обязательный фильтр на совпадение сгенерированного кода с открытым исходным кодом и
публичными библиотеками. Код должен проходить стандартное ревью и покрываться тестами.
4.
Четко маркировать весь код, созданный при помощи ИИ, чтобы обеспечить прозрачность и
упростить аудит.