المخاطر الأمنية المتعلقة بهندسة الأوامر

استخدام هندسة الأوامر أدت إلى اكتشاف مخاطر أمنية مثل إمكانية توليد ردود تتعارض مع المعايير القانونية
زيادة استخدام هندسة الأوامر كشفت مخاطر أمنية، تتضمن:
1- تلاعب الأوامر، مما يتيح للمهاجمين إنتاج رورد ضارة عن طريق تعديل الأوامر.
2- الكشف عن البيانات السرية من خلال الردود المُنتجة.
3- الوصول غير المصرح به إلى العمليات والإعدادات الداخلية للنموذج، المعروف باسم كسر النموذج.
4- إنتاج معلومات كاذبة أو مضللة.
5- تكثيف الانحيازات الاجتماعية إذا تم تدريبه على بيانات محدودة ومتحيزة.
6- إنشاء نصوص تبدو حقيقية لأغراض خبيثة أو مضللة.
7- إمكانية توليد استجابات تتعارض مع المعايير القانونية أو التنظيمية.