Techniques avancées pour l'ingénierie des prompts et des réponses en IA

58 techniques de génération de prompt textuelles, y compris le zero-shot, le few-shot, la génération de pensées, l'ensemblement, l'auto-critique et les techniques de décomposition. Parmi les techniques qu'ils ont évaluées, le Few-shot CoT est la plus performante.

Ingénierie des Prompts : Meta-prompting, auto-prompt, ingénieur de prompt automatique, recherche de prompt instructionnel sans gradient, optimisation de prompt avec gradients textuels, RLPrompt, optimisation discrète de prompt basée sur la politique-gradient de dialogue.

Ingénierie des Réponses : Forme de la réponse, espace de réponse, extracteur de réponse.

Agents : Agents utilisant des outils, agents basés sur le code, agents basés sur l'observation, RAG.

Sécurité : Piratage de prompt (injection de prompt, jailbreak), risques (confidentialité des données, préoccupations liées à la génération de code, service client), mesures de renforcement (défense basée sur le prompt, garde-fous, détecteurs).

Alignement : Ambiguïté, biais, calibration, sensibilité au prompt.