بعض موظفي أمازون أثاروا مخاوف حول دقة وخصوصية روبوت الدردشة الذكي كيو الخاص بأمازون، خلال ثلاثة أيام فقط من إعلانه. الوثائق المسربة تكشف أن كيو يعاني بحسب التقارير من "هلوسات شديدة وتسرب للبيانات السرية"، والتي تتضمن معلومات حساسة مثل موقع مراكز بيانات خدمة أمازون ويب وبرامج الخصم الداخلية وميزات لم تصدر بعد. تم وصف حدة المشكلة بأنها "سيف ٢"، مما يشير إلى حدوث حادث مهم يتطلب من المهندسين العمل على مدار الساعة لحله. يأتي هذا في وقت تسعى فيه أمازون للتنافس مع شركات التكنولوجيا الأخرى مثل مايكروسوفت وجوجل في مجال الذكاء الاصطناعي التوليد.

‍

أمازون قللت من أهمية مناقشات الموظفين هذه، مشيرة إلى أنه يتم مشاركة التعليقات من خلال القنوات الداخلية كممارسة قياسية، وأنه لم يتم تحديد أي مشكلة أمان. على الرغم من التقارير الأولية، تصر الشركة على أن كيو لم يتسرب منه معلومات سرية. كيو، المتاح حالياً كنسخة تجريبية مجانية، يُعرَف كنسخة صديقة للمؤسسات من شات جي بي تي، والتي تم تصميمها لتكون أكثر أمانًا وخصوصية من الروبوتات الدردشة الاستهلاكية، بهدف معالجة مخاوف الأمان والخصوصية المتعلقة بهذه المساعدين الذكيين. ومع ذلك، تسلم وثيقة داخلية بأن كيو قد يولد ردودًا ضارة أو قديمة، وهو تحدي شائع مع النماذج اللغوية الكبيرة.