Что такое генеративный ИИ - часть 2 Продвинутый промпт-инжиниринг
Что такое генеративный ИИ - часть 2 Продвинутый промпт-инжиниринг Содержание 2025-01-10 Что такое генеративный ИИ - часть 2 Продвинутый промпт-инжиниринг 00:06 Введение в промт-инженеринг • Промт-инженеринг — это процесс создания и оптимизации текстовых запросов для больших языковых моделей LLM. • Промты могут быть короткими или длинными, но должны четко описывать задачу и не допускать двойного толкования. • LLM поддерживают промты на русском и английском языках. 01:07 Типы промтов • Открытые вопросы требуют развернутого ответа, например, объяснения или ссылки на факт. • Закрытые вопросы требуют конкретного короткого ответа, например, выбора из списка. • Генерация текста используется для создания статей, сказок и других текстов. • Мозговой штурм помогает генерировать идеи и выбирать лучшие из них. • Чат позволяет свободно общаться с моделью на любые темы. • Анализ и логические рассуждения требуют анализа информации и предоставления конкретного ответа. • Классификация используется для сортировки и анализа информации. • Редактирование текста помогает исправлять ошибки и расставлять заголовки. • Перевод текста используется для перевода текста с одного языка на другой. • Обобщение помогает выделить основные тезисы и сократить текст. • Переписывание помогает переписать текст или переформулировать вопрос. • Извлечение помогает выделить нужные детали из текста. • Генерация кода помогает написать код на множество языков программирования. 04:29 Дополнительные элементы промтов • Контекст помогает улучшить результат генерации, например, описание героев. • Инструкция указывает модели, как решить задачу, например, формат ответа. • Роль позволяет модели отвечать в соответствии с заданной ролью, например, как опытный врач. • Стиль форматирует ответ под необходимые требования, например, научная статья. 05:51 Методы промт-инженеринга • Зеро шот — стандартные промты без четких примеров ответов. • Фью шот — промты с четкими примерами ответов. • Диалог или доспрашивание — дополнительные вопросы для улучшения генерации. 06:47 Галлюцинации и цензор • Галлюцинации — ответы, не имеющие реального смысла. • Цензор не позволяет моделям отвечать на провокационные вопросы. • Вопросы, не прошедшие цензор, заменяются заглушками. 08:20 Генеративные модели художники • Кандинский от Сбера — генеративная модель для создания изображений. • Генерация фото по описанию и изображению. • Дорисовка внутри изображения и расширение кадра. • Генерация анимации и видео. 11:03 Дополнительные элементы промтов для Кандинского • Описание объектов и действий. • Стиль и атмосфера. • Композиция и 14:33 Продвинутый промто-инжениринг • Цепочка рассуждений или чейнов сот: модель самостоятельно задает себе наводящие вопросы и корректирует ответ. • Умный ЛЛМ или с март: несколько моделей обрабатывают запрос, каждая предлагает свой вариант, затем ЛЛМ выбирает лучший ответ. 16:00 Дополненная генерация • Аугмент: использование сторонних источников информации для расширения контекста модели. • Схема аугмента: добавление данных из сторонних источников в пром. запрос для улучшения контекста. 16:52 Ограничения моделей и поиск в интернете • Модели ограничены моментом их создания и не знают о событиях после их создания. • Использование поиска в интернете для получения релевантной информации перед ответом на запрос. 17:43 Агенты и их применение • Агенты: использование ЛЛМ в качестве мозга-системы для выполнения действий и управления приложениями. • Примеры агентов: бронирование отелей, билетов, планирование маршрутов. • Будущее: персональные помощники, взаимодействующие с людьми через промты.
Что такое генеративный ИИ - часть 2 Продвинутый промпт-инжиниринг Содержание 2025-01-10 Что такое генеративный ИИ - часть 2 Продвинутый промпт-инжиниринг 00:06 Введение в промт-инженеринг • Промт-инженеринг — это процесс создания и оптимизации текстовых запросов для больших языковых моделей LLM. • Промты могут быть короткими или длинными, но должны четко описывать задачу и не допускать двойного толкования. • LLM поддерживают промты на русском и английском языках. 01:07 Типы промтов • Открытые вопросы требуют развернутого ответа, например, объяснения или ссылки на факт. • Закрытые вопросы требуют конкретного короткого ответа, например, выбора из списка. • Генерация текста используется для создания статей, сказок и других текстов. • Мозговой штурм помогает генерировать идеи и выбирать лучшие из них. • Чат позволяет свободно общаться с моделью на любые темы. • Анализ и логические рассуждения требуют анализа информации и предоставления конкретного ответа. • Классификация используется для сортировки и анализа информации. • Редактирование текста помогает исправлять ошибки и расставлять заголовки. • Перевод текста используется для перевода текста с одного языка на другой. • Обобщение помогает выделить основные тезисы и сократить текст. • Переписывание помогает переписать текст или переформулировать вопрос. • Извлечение помогает выделить нужные детали из текста. • Генерация кода помогает написать код на множество языков программирования. 04:29 Дополнительные элементы промтов • Контекст помогает улучшить результат генерации, например, описание героев. • Инструкция указывает модели, как решить задачу, например, формат ответа. • Роль позволяет модели отвечать в соответствии с заданной ролью, например, как опытный врач. • Стиль форматирует ответ под необходимые требования, например, научная статья. 05:51 Методы промт-инженеринга • Зеро шот — стандартные промты без четких примеров ответов. • Фью шот — промты с четкими примерами ответов. • Диалог или доспрашивание — дополнительные вопросы для улучшения генерации. 06:47 Галлюцинации и цензор • Галлюцинации — ответы, не имеющие реального смысла. • Цензор не позволяет моделям отвечать на провокационные вопросы. • Вопросы, не прошедшие цензор, заменяются заглушками. 08:20 Генеративные модели художники • Кандинский от Сбера — генеративная модель для создания изображений. • Генерация фото по описанию и изображению. • Дорисовка внутри изображения и расширение кадра. • Генерация анимации и видео. 11:03 Дополнительные элементы промтов для Кандинского • Описание объектов и действий. • Стиль и атмосфера. • Композиция и 14:33 Продвинутый промто-инжениринг • Цепочка рассуждений или чейнов сот: модель самостоятельно задает себе наводящие вопросы и корректирует ответ. • Умный ЛЛМ или с март: несколько моделей обрабатывают запрос, каждая предлагает свой вариант, затем ЛЛМ выбирает лучший ответ. 16:00 Дополненная генерация • Аугмент: использование сторонних источников информации для расширения контекста модели. • Схема аугмента: добавление данных из сторонних источников в пром. запрос для улучшения контекста. 16:52 Ограничения моделей и поиск в интернете • Модели ограничены моментом их создания и не знают о событиях после их создания. • Использование поиска в интернете для получения релевантной информации перед ответом на запрос. 17:43 Агенты и их применение • Агенты: использование ЛЛМ в качестве мозга-системы для выполнения действий и управления приложениями. • Примеры агентов: бронирование отелей, билетов, планирование маршрутов. • Будущее: персональные помощники, взаимодействующие с людьми через промты.