陈焕｜GPT两周年-盘点那些使用AI生成内容被“公开处刑”的法律人
免费
陈焕
时长/课时：8分钟/0.18课时
1个月之前
12月1日是ChatGPT的两周岁生日。
两年间，ChatGPT火遍全球各地，各个行业纷纷使用AI来赋能自己的工作，追求“降本增效”。本文主要以时间为线索，归纳全球范围内使用ChatGPT被处罚的案例。目前，我国尚未出现法律人使用AI被处罚案例。
希望大家引以为戒，不要成为“名流千古”的第一案。
2023年3月全球第一案
美国Levidow，Levidow&Oberman律师事务所的两名律师PeterLoDuca和StevenSchwartz，因向法庭提交了一份包含由ChatGPT生成的虚假案例的法律文书而受到处罚。该两名律师引用了ChatGPT生成案例包括"Varghese诉中国南方航空公司""马丁内斯诉达美航空公司"和"米勒诉联合航空公司"等案例，但经查证后，这几个案例并不存在。法官指出，两名律师在被质疑后，仍旧坚持他们提出的虚假意见，最纽约联邦法官对该两名律师及律师事务所罚款5000美元。[1]
2023年12月底特朗普律师的乌龙
特朗普的律师及重要助手迈克尔·科恩（MichaelCohen）承认他的律师大卫·施瓦茨（DavidM.Schwartz）在一份提交给法院的动议中，错误地引用了三个由人工智能生成的虚假法院判例，而施瓦茨在正式向法庭提交前未能检查所引用的案例是否真实。科恩说，他提交的虚假法院判决来自谷歌Bard，他以为Bard就像是“一个超强的搜索引擎”，而不是一个生成式人工智能工具。但最终法官认为科恩的律师施瓦茨出于失误，而非故意，并未对其处罚。[2]
2024年开年后华裔第一案
开年不久，加拿大的一名华裔律师ChongKe也因引用ChatGPT编造的虚假案例而受到法庭的公开批评。ChongKe在代理一场离婚诉讼时，引用了由ChatGPT生成的虚假案例。法官指出生成式人工智能并不能替代律师专业知识，强调应谨慎选择使用技术工具。法庭最终裁定该律师应承担对方律师应对虚假案例而采取必要措施的费用，并命令该律师仔细审查其向法庭提交的其他文件。[3]
2024年9月“世界上第一个机器人律师”被处罚
美国联邦贸易委员会（FTC，FederalTradeCommission）发布一批AI产品虚假宣传案例，其中AI法律公司DoNotPay被罚19万美元，该公司此前宣称是“世界上第一个机器人律师”，能够“一键起诉任何人”，并声称该公司将“用人工智能取代价值2000亿美元的法律行业”。但FTC指出DoNotPay没有进行测试，“以确定其AI聊天机器人的输出是否等于人类律师的水平”。
DoNotPay已同意支付193,000美元以解决该指控，并通知2021年至2023年期间订阅该服务的消费者其相关法律服务功能存在局限性。[4]
2024年11月1日用AI生成的错误内容来反AI深度伪造
明尼苏达州的“深度伪造技术影响选举"法案引发了一场联邦诉讼，斯坦福大学的汉考克教授在该案中提交了一份文件，讨论了深度伪造对人们造成的影响，并提出对深度伪造的反对意见。然而，汉考克教授提交的文件中引用了两份根本不存在的参考文献，被质疑相关文献内容是由AI生成的。目前，该教授还未正式回应该事件。用AI生成的错误内容来反AI深度伪造，还挺讽刺的。[5]
2024年11月25日律师因使用AI被罚款
近日，美国德克萨斯州的一名律师因使用由AI生成的虚假案例而被罚款2000美元。德克萨斯州东区地方法院法官MarciaA.Crone在意见书中表示，地方法院规则“明确警告律师，生成式人工智能工具可能会产生事实和法律上的不准确”，并要求律师验证他们提交给法庭的信息。根据联邦和地方法院规则，律师在向联邦法院提交文件时，必须符合联邦民事诉讼规则的标准，律师应当保证其提出的“主张、辩护和其他法律意见是有依据的”。Crone法官最终裁决对该律师处以2000美元的罚款，并要求他参加法律领域生成式人工智能的课程。[6]
参考资料：
[1]https://arstechnica.com/tech-policy/2023/06/lawyers-have-real-bad-day-in-court-after-citing-fake-cases-made-up-by-chatgpt/
[2]https://arstechnica.com/tech-policy/2024/01/michael-cohen-gave-his-lawyer-fake-citations-invented-by-google-bard-ai-tool/
[3]https://www.cbc.ca/news/canada/british-columbia/lawyer-chatgpt-fake-precedent-1.7126393
[4]https://www.theverge.com/2024/9/25/24254405/federal-trade-commission-donotpay-robot-lawyers-artificial-intelligence-scams
[5]https://www.theverge.com/2024/11/21/24301955/minnesota-deepfake-bill-lawsuit-affidavit-ai
[6]https://news.bloomberglaw.com/litigation/lawyer-sanctioned-over-ai-hallucinated-case-cites-quotations
作者：
陈焕，北京市隆安(广州)律师事务所律师、隆安湾区人工智能法律研究中心主任
李琪瑶，北京市隆安（广州）律师事务所律师、隆安湾区人工智能法律研究中心研究员
首发：微信公众号“AI合规圈”
公司决议下次，股东是否打赏的卡死了肯德基阿里
声音
- 情感童声
- 性感男声
- 特别男声
- 普通男声
- 普通女声
语速
- 0.7X
- 1.0X
- 1.5X
- 2X
- 3X
- 4X
字号
- 特大
- 大
- 标准
- 小
作者
- 文章19
- 读者3w
- 关注5
- 点赞29
隆安湾区人工智能法律研究中心主任，隆安全国合规委副主任，国家工业信息安全发展研究中心《生成式人工智能数据应用合规指南》标准起草人，广东财经大学法学院人工智能法研究中心兼职研究员，广州市涉外律师领军人才，南沙区政府全球数源中心数据合规项目组副组长，某市市场监督管理局(知识产权局)知识产权专家库专家 业务领域:人工智能专项合规、数据合规、数据资产入表、计算机网络案件、企业与私人法律顾问、民商事诉讼代理。致力于为人工智能项目提供法律安全感，为数字经济发展保驾护航。 著作成果:《法律人ChatGPT应用指南》
思想共享 知识变现
猜你喜欢
换一换作者推荐
换一换
常见问题
-
1、“点读”是什么？
点读是点睛网APP中的一款全民学法的人工智能（AI）新产品。它能“识字”和“朗读”，它使“读屏”变“听书”，解放读者的眼睛和颈椎。它使“讲课”变“写作”，解放讲师的时间和身心。
-
2、“点读”的作者？
在点睛网PC或APP端注册，登录点睛网PC端个人后台，点击“我的文章”，填写作者信息并上传文章。当第一篇文章通过编辑审核后，即成为点睛网的正式作者。
-
3、“点读”的文章？
作者在点睛网个人中心发布文章，编辑审核合格的才能呈现给读者。作者只能发布自己写的文章，不能发布或转发他人的文章。更不能发布有违法律法规、政府规定，或公序良俗、文明风尚、社会和谐等文章。
-
4、“点读”的审核？
作者文章上传后，编辑将在工作日最晚不超过24个小时、非工作日最晚不超过48个小时内完成审核。审核未通过的，说明理由。文章评论的审核，参照以上周期。