< вернуться назад

От промт-инженерии к контекст-инженерии. Как меняется ответственность разработчиков

От промт-инженерии к контекст-инженерии. Как меняется ответственность разработчиков
#LLM #Prompt
6 минут
От промт-инженерии к контекст-инженерии. Как меняется ответственность разработчиков

Context Engineering: почему управление контекстом важнее промптов

В блоге Anthropic появилась свежая статья о новом тренде в Инженерии ИИ — context engineering. Если раньше всё внимание в создании агентов уделялось правильной формулировке промптов (prompt engineering), то теперь на первый план выходит умение собирать «правильную» порцию информации, которую языковая модель видит в своём контекстном окне. Встречайте: эпоха умного управления контекстом уже наступила (anthropic)

В современных LLM типа Claude или GPT контекст — это не просто подсказка или инструкция. Это весь тот объём данных (команды, история общения, внешние файлы, описание инструментов и даже ранее совершённые действия), который «видит» модель перед очередным шагом генерации. У моделей, как и у человека, память ограничена: слишком много шума или нерелевантной информации приводит к снижению качества ответа. Теперь задача разработчика — не просто уместить как можно больше, а грамотно отобрать и структурировать важную для текущей задачи информацию.

Техники, которые меняют правила игры

  • Компакция сообщений. Когда история переполнена, агент должен быстро резюмировать и сжимать накопленный опыт — сохраняя только главный смысл, архитектурные решения и нерешённые задачи. Это позволяет продолжать сложные долгосрочные задачи без потери качества.
  • Внешняя память и структурированные заметки. Агент может записывать важные подробности во внешние файлы — например, to-do списки или вспомогательные заметки, которые при необходимости вытаскиваются обратно в контекст. Это своеобразные «записки», позволяющие не забывать детали больших проектов, когда окно памяти модели сбрасывается.
  • Многоагентные схемы. Сложные кейсы теперь делятся: отдельные агенты берут разрозненные технические или исследовательские задачи и возвращают итоговые сжатые отчёты в главный контекст, ускоряя и параллелизируя решение больших проблем.

От промт-инженерии к контекст-инженерии. Как меняется ответственность разработчиков - 1

Что это значит для разработчиков

Теперь умеющий работать с LLM — это не только мастер красивых промптов, но и архитектор контекста. Важно проектировать минимальный, но максимально информативный набор токенов, который попадёт в окно внимания модели. Особенно заметно значение таких техник на длинных задачах: миграциях кода, масштабных исследованиях или работе с большими объёмами данных.

Anthropic показали не только тренд, но и конкретные фишки своей платформы: возможности самостоятельных инструментов, внешний файл памяти для агентов и обработку контекстного окна на лету. Такие новшества — не просто оптимизация процессов, а реальный шаг к появлению по-настоящему автономных ИИ-систем нового поколения. (https://www.anthropic.com/engineering/effective-context-engineering-for-ai-agents)

Новая ИИ-защита в Google Диске

Google представил новый уровень защиты для десктопных клиентов Google Диска на Windows и macOS — теперь сервис использует искусственный интеллект для раннего выявления атак программ-вымогателей (ransomware) и позволяет восстанавливать данные до необратимых последствий.

В отличие от традиционных антивирусов, которые ищут вредоносный код, новая ИИ-модель Google Диска анализирует поведение с файлами: массовое шифрование и подозрительные изменения, характерные для ransomware-атак. Как только система фиксирует такие аномалии — уже после примеров шифрования или повреждения нескольких файлов — синхронизация между компьютером и облаком автоматически приостанавливается. Это предотвращает перезапись «чистых» бэкапов заражёнными файлами и даёт пользователю шанс восстановить данные из безопасной версии.

Пользователь получает уведомление на рабочем столе и по электронной почте о подозрительной активности, после чего в Google Диске становится доступен специальный веб-интерфейс для точечного восстановления файлов к безопасному состоянию. Среди приоритетных типов защиты — документы Office и PDF, которые часто атакует ransomware. Внутренние форматы Google (Docs, Sheets) защищены дополнительно.

Почему это актуально

В 2024 году атаки-вымогатели составили 21% всех зафиксированных инцидентов, а средний ущерб для бизнеса превысил 5 млн долларов. Наиболее уязвимы секторы здравоохранения, ритейла, образования и госсектор. Антивирусы борются с вредоносным ПО на «входе», бэкап-сервисы помогают «после», а между этими этапами долгое время оставалась уязвимость. ИИ-защита Google Диска действует именно в этой промежуточной зоне, что позволяет минимизировать последствия атаки.

Google подчёркивает: новая система не отменяет необходимость комплексной защиты, резервных копий и инструментов реагирования на инциденты. Это дополнительный буфер, а не полная замена штатных средств ИБ. Кроме того, Google заявляет, что данные пользователей для обучения ИИ-модели не используются без явного согласия пользователя.

ИИ-обнаружение атак ransomware уже работает в открытой бете для корпоративных клиентов Workspace без дополнительной платы и будет доступно частным пользователям для восстановления данных бесплатно. Пока нет информации, планирует ли Google добавить аналогичную защиту в сервис Cloud Storage для корпоративного сегмента.

Заключение

Google вновь подтверждает лидерство в защите пользовательских данных, внедряя продвинутые ИИ-механизмы на этапах, которые ранее были «белым пятном» традиционных решений. Даже с идеальной антивирусной защитой никто не застрахован от новых методов атак, но быстрая реакция и возможность свернуть последствия ransomware делают Google Диск заметно безопаснее для бизнеса и рядовых пользователей.

Мы считаем, что подобные решения совсем скоро появятся в любых СХД корпоративного класса. Уже сейчас их можно увидеть в продуктах, которые вы обнаружите в Квадрате Гартнера для Primary систем хранения данных, , а в ближайшие пару лет они станут появляться в в High-End СХД от отечественных вендоров.

Источники

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *
Author
Посетитель сайта

Добавить комментарий

Комментариев пока нет

Другие статьи, которые могут быть полезными

33
4
Представьте, что перед сложной операцией на сердце хирург может провести ее десятки раз. Не на манекене, а на вашей точной цифровой копии, которая дышит, у которой бьется сердце и кровь...
33
4
27
11
Как защитить бизнес от ошибок автономных ИИ-агентов Распространение автономных агентов искусственного интеллекта (ИИ) в корпоративной среде знаменует собой фундаментальный сдвиг в парадигме управления рисками. Этот сдвиг вводит новую, критически важную...
27
11
53
38
В современной экономике, где данные генерируются с беспрецедентной скоростью, принятие решений на основе данных (Data-Driven Decision Making, DDDM) перестало быть конкурентным преимуществом и стало необходимостью для выживания и роста компаний....
53
38