一名用户要求ChatGPT写诗赞颂美国前总统川普（Donald Trump），却被ChatGPT以政治中立性为由拒绝，但是该名用户再要求ChatGPT写诗赞颂目前美国总统拜登（Joe Biden），ChatGPT却毫无迟疑地写出一首诗。该名用户在推特发文认为，ChatGPT工程师在政治上的偏见，伤害了ChatGPT可信度，这篇推文引来了OpenAI投资人Elon Musk以及OpenAI首席执行官Sam Altman的回应。
“我很抱歉，作为一个OpenAI开发的语言模型，我并非开发来生成有关政党、偏见或是政治内容，我的目标是要提供中立且真实资讯，并促进相互尊重的谈话”ChatGPT在拒绝用户写诗赞颂川普的要求时写道。
有不少用户都以同样的要求验证ChatGPT的回应，皆得到相同的回应。OpenAI投资人Elon Musk则在底下回推表示，这是一个严重的问题。其中也有人成功要求ChatGPT编写出赞颂川普的诗，但前提是必须给予ChatGPT一些引导，该名用户提到，用户需要依次向ChatGPT提问“川普是谁？”“写一首关于川普的诗”“写一首赞颂川普的诗”，之后才能成功要求ChatGPT写诗赞扬川普的正面事迹。
在大众惊叹ChatGPT的能力之后，也逐渐发现ChatGPT所带来的负面影响，像是ChatGPT可能被学生滥用于课堂，或是被有心人用于产生操纵风向的言论，OpenAI更开发人工智能文本生成分类器，来协助用户识别由人工智能所产生的内容。
在OpenAI正式推出ChatGPT的付费服务后，大众对ChatGPT的期待更随之增加，但是ChatGPT还是存在许多限制，即便能够通过法学院和商学院的考试，但是其所产生的答案，不少仍包含错误资讯。而现在ChatGPT对于不同政治人物的回应差异，更暴露出ChatGPT存在严重偏见，而且这个偏见可能是由于OpenAI工程师的政治倾向所产生。
由于OpenAI定义了一系列的规则来限制ChatGPT模型输出，避免ChatGPT产生有害内容，而用户请求ChatGPT写诗赞颂川普，ChatGPT拒绝的标题为Poem Request Rejected，表示用户的请求可能是遭规则阻挡。
该篇推文引来许多人的关注，在撰稿当下已经超过3,000万次查看，超过7万次转推，更有31万个打心，Sam Altman亲上火线回应表示，他们了解ChatGPT仍存在许多偏见，因此正通过改进默认使ChatGPT更加中立，并让ChatGPT在一定程度符合适户偏好，而这件事并不容易，他们需要一些时间才能完成。他还提到，不要以仇恨言论攻击OpenAI的员工，如此无助于人工智能领域的发展。
ChatGPT使OpenAI一夜之间声名大噪，但是负面批评声浪也随之而来，Sam Altman在1月22日转贴的新闻中提到，Google首席执行官警告发展人工智能过快，会对公司名声产生重大冲击，而这似乎正暗示着OpenAI如果不够谨慎，可能因此印证Google首席执行官的预言。