Article

Ingénierie du contexte vs. ingénierie des prompts pour l’IA d’entreprise

L’ingénierie prompt améliore l’enseignement. L’ingénierie du contexte gère les données, les outils, la mémoire, les permissions et les informations actuelles dont l’IA d’entreprise a besoin pour fonctionner de manière fiable.

L’ingénierie du contexte est plus large, pas universellement meilleure. L’ingénierie des prompts suffit souvent pour des tâches limitées lorsque l’information nécessaire est déjà disponible. L’ingénierie du contexte devient nécessaire lorsque le système doit récupérer des informations changeantes, utiliser des outils, préserver l’état, faire respecter les permissions ou coordonner un travail en plusieurs étapes.

Non. L’ingénierie des prompts reste la couche de conception d’instructions au sein d’un système plus large d’ingénierie du contexte. Le changement passe du traitement de la formulation comme la solution globale à l’ingénierie des invites, données, outils, mémoire, états et contrôles qui entourent chaque requête.

Il n’existe pas de cadre universel unique. Un modèle d’entreprise pratique comprend des instructions et des exemples ; des connaissances et des données d’entreprise ; des outils et des actions ; et la mémoire, les autorisations et l’état actuel. La gouvernance, la fraîcheur, la provenance et l’évaluation doivent s’appliquer aux quatre couches.

Un agent du service client peut recevoir une invite de tâche ainsi que le profil du client, les cas récents, les droits de compte, la politique actuelle, l’état du flux de travail et l’accès à l’outil sensible aux permissions. Sélectionner, gérer et assembler ce package complet pour la requête est de l’ingénierie du contexte.

Aller au-delà de la conception en prompt seul lorsqu’une tâche dépend d’informations extérieures à la requête, de données changeantes, d’accès spécifique à l’utilisateur, de mémoire, d’outils ou d’actions en plusieurs étapes. Le besoin est le plus fort lorsque le résultat affecte les clients, l’argent, les opérations, la conformité ou d’autres décisions à haute conséquence.

L’ingénierie du contexte définit les informations et contrôle dont un système d’IA a besoin. Un moteur de contexte peut opérationnelliser cette conception en sélectionnant, gouvernant et fournissant automatiquement le bon contexte pour chaque appel de modèle ou action d’agent.

Tags
Restez au courant

Abonnez-vous au blog de Teradata pour recevoir des informations hebdomadaires



Teradata peut m'envoyer des e-mails marketing concernant ses produits, l'analyse de données et les événements ; je peux me désinscrire à tout moment.

Votre confidentialité est importante. Vos informations personnelles seront collectées, stockées et traitées conformément à la politique de confidentialité globale de Teradata.