巴西南部大城阿雷格里港（Porto Alegre）的市议会於今年10月通过一项法案，若纳税人水表被盗，将不会向纳税人收取更换水表的费用，而且已於11月底生效。然而，提出该法案的市议员Ramiro Rosário上周对外揭露，此一法案是由ChatGPT所撰写的，因而掀起了一阵议论。
Rosário是在该法案正式生效後才坦承它其实来自ChatGPT。他说，该市到处装设水表，如果水表被盗，就向纳税人收取更换费用，这是应该立法改变的事，於是他给了ChatGPT简单的提示，要求ChatGPT建立一个法案来避免此一收费，结果ChatGPT在几秒内就生成了完整的草案，也附上了理由，还能针对自己原先生成的版本进行改善。而阿雷格里港市议会无异议地全数通过此案。
Rosário向《美联社》（AP）透露，他一开始是故意隐暪此事，因为如果只是因为它是由AI所撰写的就被拒绝，对人们来说是不公平的。而使用ChatGPT的目的除了解决当地问题之外，也企图要引起辩论。事实上，该市市议会主席Hamilton Sossmeier在发现此事时，即说这是一个危险的先例。
Rosário则认为，这就是技术该有的样子，可用来降低成本并改善作业流程，提高品质与生产力，没有人会被AI取代，人们是被那些知道如何使用它的人取代。
不过，基於大型语言模型的聊天机器人依旧有令人存疑之处，美国一名律师Steven Schwartz曾利用ChatGPT来整理客户案件的有利判决，却被对手发现它杜撰了许多对该案件有利的判决，最後Schwartz、另一名同案律师与所属的Levidow, Levidow & Oberman律师事务所被法官判罚了5,000美元。
当时美国法官Kevin Castel认为，使用AI来协助法律工作并没有什麽本质上的不当之处，但律师必须确保他们的文件准确无误。