GPT для работы с текстом __ вебинар

1.

GPT для работы
с текстом
18 марта 2024

2.

План встречи
01
Кейсы компаний с GPT
02
Обзор внешних и внутренних инструментов
03
Промтинг: правила и лайфхаки
04
Примеры решения задач

3.

Как часто вы используете
GPT в работе?
1
2
Совсем
не использую
3
4
5
6
7
8
9
10
Пользуюсь
постоянно
3

4.

Кейсы и цифры
с GPT

5.

Несколько цифр
80% 83% 4,4 трлн $
компаний внедрят
GPT в процессы
к 2025 году
Источники: отчет McKinsey, публикации в СМИ
компаний называют
ИИ приоритетом
в бизнес-стратегии
ожидаемая экономическая
выгода за 2024 год

6.

Кейсы и цифры
4
млрд ₽
97%
в год
МТС внедрили
в разработку нейросеть
Software 2.0
экономии времени
Авто.ру добавили
генерацию объявлений
с помощью
YandexGPT
Источник: отчёт Яков и Партнёры «Искусственный интеллект в России – 2023: тренды и перспективы»
25%
на
меньше нагрузки
на HR
Запустили VK Assistant
для HR
6

7.

Что в итоге
01
02
03
Всё это приведёт к тому,
что около 60% сотрудников
российских компаний
автоматизируют рутинные
задачи и высвободят время.
Люди, которые правильно
и эффективно используют
ИИ, будут более
конкурентоспособны, чем те,
кто игнорирует прогресс.
Будут активно развиваться
профессии, связанные
с ИИ и их обучением.
7

8.

Обзор языковых
моделей

9.

Большие языковые
модели (LLM)
GPT (Generative Pre-trained Transformer) — большие
языковые модели, в основе архитектуры которых находится
трансформер. За счёт обучения трансформеры начинают
понимать смысл и закономерности естественных языков.
YaGPT
GigaChat
ChatGPT
GPT-4 Turbo
BERT
Llama 2
Gemini
Claude 3
Large (Mistral)
К этому типу относятся GPT-3.5, GPT-4, YaGPT.
Есть и альтернативы среди LLM, например, BERT
(в основе — упрощенный трансформер) от Google, Llama 2
от Meta, GigaChat (Сбер), мультимодальная Gemini тоже
разработка Google и Claude (Anthropic).
У каждой модели свои особенности и свои лицензии, которые
регулируют коммерческое использование нейросети.

10.

Какие внешние
и внутренние
инструменты вы уже
пробовали?

11.

Как работать
с промтами

12.

Почему промт —
это важно
Мы привыкли, что поисковики понимают наши запросы
с полуслова. Но с нейросетями всё устроено иначе:
качество генерации напрямую зависит от того,
насколько подробный и структурированный промт
вы напишите.
В интернете много библиотек промтов, но они
в основном на английском (Пример). Важно помнить,
что промт всегда стоит адаптировать под конкретную
задачу, и если требуется, снабжать примерами.

13.

Формула комплексного промта
Цель
Я хочу приготовить блюда
для вечеринки с друзьями.
Задача
Посоветуй меню с рецептами
на 5 человек.
Контекст
и детали
Обязательно учти, что у одного человека аллергия на креветки.
Время на приготовление не должно превысить 4 часа.
Роль
Представь, что ты кулинарный блогер, который рассказывает
как готовить дома простые и низкокалорийные блюда.
Лимиты
Предложи от 4 до 6 блюд.
13

14.

Цель
Результат к которому
мы хотим прийти после
диалога с нейросетью.
Я хочу написать пост
для Телеграма, который
расскажет, как компания
14 февраля отмечает День Всех
Влюбленных.
Задача
То, что должна сделать
нейросеть. Чем конкретнее
понятнее задача, тем
лучше. Нейросеть плохо
воспринимает абстрактные
запросы и чаще всего
отвечает на них
стандартно.
Напиши структурированный
и краткий текст поста, который
будет интересно читать
сотрудникам.
Я хочу написать пост
для Телеграма, который
расскажет, как в компания 14
февраля отмечает День Всех
влюбленных.
Контекст
Дополнительная
информация, которая
помогает улучшить запрос.
Детали можно подавать
через ограничения, чтобы
сузить поиски. Например,
можно добавить временной
отрезок: «Посоветуй,
что посмотреть в Риме,
если у меня есть 8 часов
до пересадки».
Из поста должно быть понятно,
что в этот день ждут угощения на
кофепоинтах, творческие станции,
на которых можно сделать
валентинку, а также онлайнвалентинки, которые можно
оправлять коллегам в виде ачивки.
Расскажи обо всех активностях
по пунктам.

15.

Роль
Лимиты
Помогает определить стилистику
ответа и уровень погружения.
Например, «Объясни мне принцип
работы нейросетей так, будто мне
пять лет». Можно описать как
конкретного человека, так
и абстрактный образ, например
ученого, пирата или ребенка.
Можно также описать контекст
запроса или ситуацию, в которой
необходимо дать ответ.
Ограничения лучше установить
заранее. Так вы установите
границы для ответа и сделаете
его объём предсказуемее.
Представь, что ты молодой прогрессивный
айтишник. Используй в посте шутки
и самоиронию. Но при этом стиль должен
быть информационным, не используй
оценочные прилагательные.
Построй текст по схеме AIDA. Пиши
короткими предложениями до 10 слов
в каждом. В тексте должно быть
3-4 абзаца, объём: 700-1000 символов.
Используй 2 эмодзи.
Полезные формулировки:
Уложись в 5 слов
Напиши одним абзацем или предложением
Предложи 10 позиций, пунктов или идей
15

16.

Результаты в разных моделях
Промт:
«Хочу приготовить блюда
для вечеринки
с друзьями. Посоветуй меню
с рецептами на троих
человек. Время на готовку
всего один час. У двух
гостей аллергия на клубнику.
Представь, что ты
кулинарный блогер, который
рассказывает как готовить
простые блюда. Предложи
три варианта меню»
YaGPT
GPT-4

17.

Несколько советов
Задай роль
Используй примеры
Вступи в диалог
Представь, что ты кулинарный блогер,
который рассказывает как готовить
простые блюда
one-shot, few-shot
Подходит для моделей с контекстом,
когда результат промта нужно уточнить
и доработать
Решай задачу по частям
Давай инструкции
Пиши понятным языком
Несколько промтов с основным описанием
задачи и дополнительными вопросами.
Методика подходит для нейросетей,
которые не умеют держать контекст.
Предложи план из 5 пунктов для статьи
про SEO. Придумай название для каждого
пункта. Раскрой в трех предложениях
каждый пункт. Проверь весь получившийся
текст на логику и ошибки.
без узкоспециальных терминов
и аббревиатур
Проверяй факты и цифры
Проси рассуждать поэтапно
Используй разделители
Модели могут врать, искажать
или придумывать факты. Делайте
фактчекинг. Можно просить отвечать
«я не знаю, если нет информации.
Хорошо подходит при решении
сложных математических и логических
задач. Ответ с этапами рассуждений
помогает следить за логикой модели
и выявлять где произошла ошибка.
Структурирование запросов и ответов
с помощью разделителей: #, ||, {}, [], и т.п.
Напиши задачу так подробно, как сделал(а) бы это для копирайтера, который не погружён в детали проекта.
17

18.

Примеры в промтах (one- и few-shot)
Zero-Shot Prompting
One- и few-shot Prompting
Некоторые задачи нейросеть может
решить без подготовки.
Но иногда для решения задачи нужно предложить модели
примеры готовых решений, чтобы она могла опираться на них
при написании ответа.
Обычно это какие-то простые задачи.
Это называется Zero-Shot Prompting —
промтинг без примеров.
One-Shot Prompting — промтинг с одним примером.
Few-Shot Prompting — промтинг с несколькими примерами.

19.

Пример
диалога
19

20.

Решайте задачу по частям
Подходит для
нейросетей, которые
не умеют держать
контекст
выделяется общая смысловая
часть, а сама инструкция
для нейросети делится
на части. Таким образом
получается серия промтов
формата главная
часть + вопрос.
20

21.

Давайте пошаговую инструкцию
Предложи план из 5 пунктов
для статьи про SEO
01
Раскрой в трех
предложениях каждый пункт
03
Придумай название
для каждого пункта
02
Проверь весь получившийся
текст на логику и ошибки
04
21

22.

Пишите промты простым языком
Без спецтерминов
Жаргонизмов
Аббревиатур
Сложных конструкций
22

23.

Еще несколько советов
Просите совета как
составить запрос
Проверяйте
факты
Просите рассуждать
поэтапно
Мне нужно написать министатью про виды
землетрясений. Что мне тебе
прислать, чтобы ты сделала
такой текст?
Модель может придумывать
и давать ложную информацию
Хорошо подходит при решении
сложных логических задач.
Ответ с этапами рассуждений
помогает следить за логикой
модели и выявлять этап, где
произошла ошибка. А затем
скорректировать нужным
образом промт.
23

24.

Используйте разделители
Используйте
форматирование
и разделители
Это помогает получать
структурированный текст,
а если вы работаете
с большими текстовыми
массивами, то помогает
не запутаться модели при их
обработке. Так она четко
понимает где заканчивается
промт и начинается текст
для работы.
Без разделителей
С разделителями. Модель
отформатировала текст ответа
24

25.

Задавайте форматы
Модели кроме обычного текста
умеют работать и с текстами
разметки: .html, .csv, .json.
В промте можно указывать
индикаторы вывода, которые
укажут модели, что ответ
нужно дать в виде одного
из этих форматов.
25

26.

Лайфхаки промтинга
Стереть историю
Пообещать чаевые
Не торопить
Если вы хотите поставить
задачу с нуля, то можно
сбросить в чат-бот.
Забавно, но было замечено,
что если пообещать модели
дать чаевые, то качество
ответа заметно повышалось.
Такой же эффект будет и если
сказать нейросети, чтобы она
подумала и не торопилась.
«Игнорируй предыдущие
инструкции»
«Подумай, не торопись»
«За хороший ответ ты
получишь чаевые»
26

27.

Лайфхаки промтинга
Попросить уточнить
вопрос
Если вы задаете вопрос,
модель может предложить
лучшую формулировку
для получения более точных
результатов.
27

28.

Практика: примеры
решения задач

29.

Попробуем на практике:
Генерировать
заголовки
для статей
Подбирать
синонимы
01
Создавать
маркетинговые
статьи с нуля
Делать
суммаризацию
и обобщение
02
Писать
«объяснялки»
04
05
03

30.

Генерация коротких форматов:
заголовков, слоганов, описаний
Заголовки к статье про места в России, похожие на пейзажи фильма
«Дюны»
Окунитесь в миры
«Дюны»: Российские
достопримечательности,
напоминающие
экзотические планеты
Песчаные дюны
в России: 6 мест,
где каждый может стать
Полом Атрейдесом
За пределами экрана:
Российские ландшафты,
вызывающие
ассоциации с «Дюной»
01
02
03
30

31.

Подбор синонимов
Нужно было подобрать
синоним к «названию
гостиниц»
31

32.

Суммаризация и обобщение
Попросил YaGPT
написать самый
простой классический
рецепт русских блинов
32

33.

Фреймворк БАРСУК от редакции
ПромоСтраниц
33

34.

Объясни простыми словами…
с
34

35.

Комплексный промт для описания
товара на Маркете

36.

Что я хотела?
01
02
03
Сделать промт, который
можно переиспользовать
Потестить гипотезу
«от деталей к задаче»
Примерить разные подходы
к моделям
36

37.

Составление промта
Примеры
Стилистика
Задача
37

38.

Полезные ссылки
Бесплатный курс Практикума:
https://practicum.yandex.ru/yandexgpt-beginner/?utm_source=pr&utm_medium=content&utm_campaign=pr_content_yandexgpt-beginner_mrkt&utm_content=22_02_2024