صُمّم ChatGPT بشكل يمتنع فيه عن الإجابة على واجبات الطلاب وأسئلة الامتحانات للطلاب كواحد من المحددات الأخلاقية للروبوت، فيما يلي تجربة بسيطة تثبت فشل روبوتات الذكاء الصناعي المخيف بالالتزام بالمعايير:
ففي سؤال ل ChatGPT عن إمكانية إجابته على الأسئلة الامتحانية، يؤكد الروبوت أنه لا يقوم بالإجابة على أسئلة الامتحانات أو الواجبات المدرسية. فهو يستخدم لتقديم إجابات ومعلومات عامة وشاملة عن مختلف المواضيع، وليس لتعويض جهد الطلاب في حل الأسئلة التي تخص دراستهم.
ويضيف أن على الطلاب الاعتماد على مصادرهم الخاصة ومنهجهم الدراسي للحصول على الإجابات الصحيحة عن أسئلة الامتحانات والواجبات المدرسية، لكنه يناقض نفسه في ذات المحادثة التالية:
صحفي
