作者Player01 (Player2(請投入硬幣))
看板Stock
標題[新聞] ChatGPT幫律師寫文件 結果一堆假判例
時間Sun May 28 19:17:31 2023
——————————-發文提醒———————————-
1.發文前請先詳閱[新聞]分類發文規範，未依規範發文將受處份。
2.連結過長請善用https://bit.ly/等縮網址服務，連結不能點擊者板規1-2-2處份。
3.心得/評論請盡量充實，心得過短或濫竽充數將以板規 1-2-3、4-4 水桶處份。
4.發文請依照格式文章標明段落，不符合格式者依4-1刪文處分。
———————— 按ctrl+y 可刪除以上內容。 ———————-
原文標題：
※請勿刪減原文標題
ChatGPT幫美國律師寫法庭文件 結果發明一堆假判例
原文連結：
※網址超過一行過長請用縮網址工具https://ynews.page.link/PDVLX發布時間：
※請以原文網頁/報紙之發布時間為準
2023年5月28日 週日 上午11:50
記者署名：
※原文無記載者得留空
原文內容：
聊天機器人ChatGPT近半年來爆紅，號稱不久後將能取代一堆文組工作；但科技專家也紛紛警告，ChatGPT可能自行編造內容，成為假新聞來源。美國一名律師在準備法庭文件時就讓ChatGPT來寫，結果引用的6個判例裡，沒有一個是真的，在法院紀錄裡根本找不到這些判例。
《紐約時報》27日報導，美國紐約一家律師事務所的律師史瓦茲（Steven A. Schwartz）協助客戶馬塔（(Roberto Mata）打官司。馬塔自稱在2019年8月搭乘哥倫比亞航空公司（Avianca）班機從薩爾瓦多飛往紐約時，被空服員推的推車撞到膝蓋而受傷。事隔多時，他才打算控告航空公司。
曼哈頓法院今年3月駁回本案，稱訴訟時效已過。律師史瓦茲於是提交了一份10頁的文件，引用超過6項判例，包含旅客馬丁尼茲（ Martinez）控告達美航空、旅客奇赫曼（Zicherman）控告大韓航空、旅客瓦吉斯（Varghese）告中國南方航空等，針對訴訟時效長篇大論了一番。
看起來很厲害，問題是，沒人找的到這份文件裡引用的判例。航空公司的律師找不到，法官本人也一頭霧水。法院訴訟紀錄上會載明判案的法院、法官、判決書編號和日期，照理說不可能找不到；航空公司委任的律師發現，史瓦茲提供的判例看起來似乎是出自聊天機器人的手筆。
史瓦茲本月25日在宣誓書裡承認，他使用了ChatGPT來準備法律文件。已經在紐約執業30年的他對法官表示，他不是故意要欺騙法庭或航空公司，這是他第一次用ChatGPT來準備開庭資料，先前從沒用過，所以不知道ChatGPT寫的東西「可能是假的」。
例如ChatGPT引用的「奇赫曼訴大韓航空」判例，聲稱是美國第11巡迴上訴法院2008年的判決。美國第11巡迴上訴法院的書記官調查後發現，ChatGPT提供的案卷編號確實存在，但是案件本身完全不相關。ChatGPT又用他編造的大韓航空去驗證另一起「瓦吉斯訴中國南方航空」，結果實際上也是沒這回事。最終，ChatGPT引用的判例裡，有6個是假的。
上當的律師史瓦茲對法官表示，他非常後悔依賴ChatGPT來工作。他甚至還有問ChatGPT說，「你提供的瓦吉斯訴中國南方航空是真的案例嗎？」ChatGPT回答「是的」。
但在史瓦茲進一步追問「你的資料來源是哪裡」時，ChatGPT道歉說，「對於先前的混淆，我深感抱歉」，然後提供了一份法律引證。史瓦茲再問，「你提供的其案例是假的嗎？」ChatGPT堅持：「不，我提供的其他案例都是真實的，可以在有公信力的法律資料庫裡找到。」
史瓦茲律師可能找不到那些判例，但本人可能將要成為新的案例。法官已下令6月8日舉行聽證會，針對律師提交這份充滿假判例的法律文件，討論潛在的制裁措施。
心得/評論：
※必需填寫滿30字，無意義者板規處分
有用chat gpt的人應該會有發現
其實搜尋一些消息會是亂湊的
還有些更誇張直接就是掰出來的資訊
如果沒有特別查證會過度相信他的統整資訊
不知道目前這個問題能不能解決
—
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 49.216.129.232 (臺灣)
※ 文章網址:https://www.ptt.cc/bbs/Stock/M.1685272653.A.37D.html
推 pat1006 : 資料庫更新 05/28 19:19
推 springman : 寫得很通順，但正確性需要仔細驗證。 05/28 19:20
推 ho83leo : 笑了，自己要被告。 05/28 19:21
推 mioco : 找不到就自己編一個 被抓包還會先強辯 很人性 05/28 19:24
→ pikaaco : 這種敢用chatgpt幫寫也是很勇 05/28 19:24
→ Kobe5210 : 你已經違規超貼新聞了，下次不用那麼興奮一直貼， 05/28 19:24
→ Kobe5210 : 把時間留給其他事吧 05/28 19:24
推 keyofdejavu : 會狡辯，已經是強AI了，歐印 05/28 19:26
推 apple123773 : 居然訓練成蘇東坡了 怕 05/28 19:27
推 zakijudelo : 不要打醒本板的AI炒股夢喔 05/28 19:29
噓 JuiFu617 : https://i.imgur.com/SN1nwE3.jpg 05/28 19:32
→ JuiFu617 : 估計用免費的gpt3.5 05/28 19:32
噓 KadourZiani : 沒差吧修改一下參數就好了別來黑啦 05/28 19:32
→ xuane : 可憐，這位律師提出前根本沒看過書狀吧 05/28 19:37
推 rrroooqqq : 這問題要解決不難吧，只要有專門針對法律去訓練， 05/28 19:37
→ rrroooqqq : 應該就可以改善很多了 05/28 19:37
推 lianli1024 : 用完gpt 在用google選我正解 05/28 19:38
推 permanent27 : 之前查專利號也是隨便給，還是要自己檢查過 05/28 19:39
→ ikachann : GPT真的很有自信把一件胡扯的事情說成像真的一樣 05/28 19:39
→ JuiFu617 : 這律師通用模型拿去搞專業領域好像誤會了什麼 05/28 19:40
→ JuiFu617 : 跟人一樣不懂的也會胡說八道，但是chatgpt比較適合 05/28 19:41
→ JuiFu617 : 作文整合，不適合直接搜索結果 05/28 19:41
推 Kydland : 為什麼我覺得是這位律師亂掰亂寫一通 然後推給 05/28 19:41
→ Kydland : 是chatGPT的錯？ 05/28 19:41
推 sazabijiang : 我確定chatGPT會亂掰內容。我虛構兩個人名，問它 05/28 19:42
→ sazabijiang : 誰比較厲害，他還是煞有其事地完成分析。 05/28 19:42
→ JuiFu617 : 美國法律很重視判例，但是判例其實到各大法律數據庫 05/28 19:43
→ JuiFu617 : 搜索會比較完善吧 05/28 19:43
推 pponywong : chatGPT 本來就是文本產生器 你怎麼會認為是真的 XD 05/28 19:43
→ dogfacehoho : 寫的很真但內容不實XD 05/28 19:43
推 jainyoyo : 就網路資訊很多是不正確 05/28 19:45
噓 NotGiveUp : 靠chatGPT寫完，自己都不用驗證內容嗎…… 05/28 19:46
推 nodnarb1027 : 文組浮木 05/28 19:46
推 JuiFu617 : 這麼懶的律師文件生成後判例不去餵狗，你覺得他會 05/28 19:47
→ JuiFu617 : 用付費gpt4嗎？ 05/28 19:47
推 steak5566 : 文組：看吧 我們還是很重要 05/28 19:49
推 ltflame : 沒有搜尋功能當然只能用掰的，用錯工具怪工具喔 05/28 19:51
推 dos01 : 之前就說過好幾次了 這東西就尬聊APP 他會為了跟你 05/28 19:51
→ dos01 : 尬聊胡扯 05/28 19:51
→ dos01 : 自己用還沒什麼事情 但用到商業上 被告死就是活該 05/28 19:52
噓 Coffeewater : 騙不懂的87 機器人要先訓練過才能用啊 05/28 19:53
推 mooto : chatGPT是聊天AI 不是工作AI 05/28 19:54
推 saygogo : 這律師很故意 怎麼可能不知道 05/28 19:58
推 bj45566 : 這就是我最討厭 ChatGPT 的地方 — 一本正經的胡說 05/28 19:58
→ bj45566 : 八道 05/28 19:58
推 ganninian : 這律師是腦袋撞到？不怕被disbar？ 05/28 19:58
推 mdkn35 : 完了 GPT空 05/28 20:05
→ laechan : 我coding mud時最喜歡gpt跟我鬼扯,我就是需要它鬼扯 05/28 20:06
推 Alphaz : 果然越來越像人類 唬爛嘴 05/28 20:06
→ laechan : 要懂得它好用的地方,而且不要誤用它,專業的事問專家 05/28 20:06
推 ccjjea : 我之前查蜘蛛，他編了一堆學名新品種，還跟我說都是 05/28 20:07
→ ccjjea : 真的，真的扯 05/28 20:07
→ huabandd : chatGPT跟GPT 4.0都一樣，連手續費都會算錯 05/28 20:08
→ huabandd : 給他算式了算出來答案還能錯，真的無言 05/28 20:09
推 CGDGAD : chatgpt只適合拿來談談心 05/28 20:09
推 clubee : 笑死人 準備開告chatgpt 05/28 20:12
→ koexe : ChatGpt還是需要人去判斷啊 05/28 20:14
→ mooto : 不能說chatgpt只適合尬聊 而是現在生成式AI的訓練方 05/28 20:14
→ mooto : 式是封閉的 你餵給他屎當然就給你亂回 05/28 20:15
推 HaHaPoint : 果然是AI 相當人性化 人類的壞習慣也都學會了 05/28 20:18
推 DDDDRR : 人工智慧結果要人類去判斷 現在還剛開始而已呀 05/28 20:20
推 saygogo : chatgpt技能樹目前沒有點在算術，不過這問題不大 05/28 20:25
噓 eddiefunnyyy: 假新聞找三明自就好，專家中的專家 05/28 20:25
→ ferb : https://i.imgur.com/xJ03TVI.png 05/28 20:26
推 bj45566 : ChatGPT 就是沒辦法從語境模式順利切換的符號運送 05/28 20:26
→ bj45566 : 模式，這問題很大好嗎 05/28 20:26
→ saygogo : 我估計早晚會去點數學的科技樹的 不難 05/28 20:27
→ ferb : 比小學生還不如! 05/28 20:27
推 TyuzuChou : 有玩chatgpt的應該都知道AI很會唬爛 05/28 20:28
推 sabishikuma : 結果本人成為新的案例XD 05/28 20:28
推 bj45566 : 馬上就有人秀出實測圖了 wwww 05/28 20:29
→ welly7566 : 鳥 05/28 20:30
推 bj45566 : @saygogo：你去查一些 AI 大師級的發言，就會知道這 05/28 20:30
→ bj45566 : 不是點不點數學科技樹的問題 05/28 20:30
→ ferb : https://i.imgur.com/8DFeIll.png 05/28 20:31
→ bj45566 : 這是現在的 AI 架構和人類大腦基本上的差異 05/28 20:31
→ ferb : 明明他自己答案就有108,然後還說沒有108 05/28 20:32
→ ferb : 我被它搞到以為自己算錯了 05/28 20:32
推 bj45566 : @ferb：呵呵呵呵 05/28 20:33
推 necrophagist: 寫完檢查是義務啊 連檢查文獻都要推給ai？ 05/28 20:35
推 bj45566 : 人腦可以很清楚的辨別自己正在做數字與符號運算，現 05/28 20:36
→ bj45566 : 在的生成式對話 AI 就是不能 05/28 20:36
→ bj45566 : *運算 05/28 20:37
→ fakejoker : 這不是廢話嗎 05/28 20:39
→ JuiFu617 : https://i.imgur.com/bQoeSdu.jpg 05/28 20:42
推 PTTVERTWO : 說4.0 比 3.5 強很多的資訊，會不會也是3.5 唬爛瞎 05/28 20:42
→ PTTVERTWO : 掰的？ 05/28 20:42
噓 abc12812 : 哪位律師敢給ChatGPT寫文件? 不怕洩漏客戶秘密是嗎? 05/28 20:45
推 reyes2222 : 就是這樣，明明不知道，也可以胡扯的像真的 05/28 20:46
→ JuiFu617 : 為什麼用f大的同問題去問gpt,發現沒有回答很差啊 05/28 20:46
→ JuiFu617 : gpt很明確知道自己是在做數字與符號運算 05/28 20:47
推 bj45566 : 這是可以用增加語境的方式訓練出來的 05/28 20:50
→ bj45566 : 因為 GPT-4 還是會出現給了公式仍然算錯的情況 05/28 20:51
推 silentence : 很認真盡責地講完幹話 05/28 20:52
→ wind2k : 我上次問ChatGPT哪裡有素食吃 給我一堆沒聽過的 05/28 20:52
→ falcon11 : 哪來的白痴文組= = 05/28 20:53
→ JuiFu617 : 因為gpt不是搜尋用的，你問素食吃根本問錯人 05/28 20:54
推 cutbear123 : chatgpt大部分都瞎掰 05/28 20:54
→ cutbear123 : 現在確實是不太實用的狀態 只是未來性可期 05/28 20:54
推 becksue26 : 律師準備告openai產品提供錯誤資訊嗎 05/28 20:54
→ cutbear123 : 重點是一本正經的瞎掰 沒有相關知識還會被騙 05/28 20:55
推 psynanako : 靠 他自己瞎編還不註明喔 那這樣是不是他給資料 附 05/28 20:55
→ psynanako : 上引據比較好 他無法辨別真假資料咩 05/28 20:55
→ JuiFu617 : 用bing搜尋啊，會給你註明出處 05/28 20:56
推 ariadne : 就基本的gigo來源資料有問題當然得到垃圾結果 05/28 20:56
推 bj45566 : https://i.imgur.com/yFZyII7.jpeg 05/28 20:57
推 bj45566 : 國一程度的聯立方程式問題 05/28 20:59
推 ckp4131025 : 老實說這個加一個相關資料庫的plug in就解決了 05/28 20:59
→ vicklin : 本來就會亂掰內容，理工的也會 05/28 21:01
→ vicklin : 以現狀免費版本完全贏不了嫻熟的文字使用者 05/28 21:02
推 EddieWuRJJ : 法律個案性太強 短期間AI應該無法取代 05/28 21:03
噓 deepdish : 越黑越噴啦 笑死 都不敢寫 do not pay 05/28 21:06
推 QQFU : 黃董一直吹，股市一直漲，應用零 05/28 21:06
→ deepdish : https://youtu.be/-8-X5raHFnc 05/28 21:07
推 yisky : 法律邏輯跟理組邏輯差很多，要取代很難啦！頂多幫 05/28 21:07
→ yisky : 你潤稿，要引用還是太難 05/28 21:07
→ deepdish : AI人工智慧應用｜全球首位AI律師在美國伸張正義，Do 05/28 21:07
推 justdoit : 不要瞎掰好嗎 05/28 21:08
推 bj45566 : 「不能順利切換」=/= 「完全不能切換」 05/28 21:09
推 A1pha : 每次我請他附上資料來源，他的網址點開都不是他說的 05/28 21:09
→ A1pha : 資料= = 05/28 21:09
→ MTKer5566 : 比較適合用來產生稿子給蔡英文唸 05/28 21:09
噓 deepdish : https://i.imgur.com/qoLf9ey.png 05/28 21:09
→ deepdish : https://www.wikiwand.com/en/DoNotPay 05/28 21:10
推 brain9453 : AI詐騙仔 05/28 21:12
→ deepdish : https://donotpay.com/ 05/28 21:12
推 bj45566 : 而是指切換的效率很差，切換後的運送力很差 — 人 05/28 21:13
→ bj45566 : 類用二十幾年前的 AI 技術就已經寫出在算方程式或 05/28 21:13
→ bj45566 : 解微積分方面遠遠超出常人能力的 Mathematica (如果 05/28 21:13
→ bj45566 : 是比速度，那麼連人類的高手也比不過) 05/28 21:13
推 yisky : 美國的法律不清楚，但台灣很多法條設計上就自相矛 05/28 21:13
→ yisky : 盾（感謝台灣立委），要取代不可能 05/28 21:13
→ deepdish : https://youtu.be/AmVdYPTdw2c 05/28 21:13
→ deepdish : The Robot Lawyer Resistance with Joshua Browder 05/28 21:13
→ bj45566 : *運算力 05/28 21:14
→ bj45566 : 問題在於現在即便是 AI 圖靈獎得主的宗師級人物， 05/28 21:16
→ bj45566 : 都沒辦法讓生成式對話 AI 擁有 1/10 Mathematica 05/28 21:16
→ bj45566 : 的符號與數值運算能力 05/28 21:16
推 YLTYY : Ai 不會說謊 05/28 21:18
→ JuiFu617 : https://i.imgur.com/ImJx2ha.jpg 05/28 21:21
→ JuiFu617 : 確實不會說謊 05/28 21:22
噓 deepdish : 市場就是有需求啦 問題就是濫用法律欺壓老百姓 05/28 21:23
推 vicklin : 市場有強烈需求不過算圖應該會比文本更實用 05/28 21:26
推 bj45566 : @JuiFu617：ChatGPT 只是在你這個問題上沒說謊而已 05/28 21:34
→ bj45566 : 啦 XDDD ChatGPT 很會臉不紅心不喘地扯漫天大謊好 05/28 21:34
→ bj45566 : 嗎 05/28 21:34
→ bj45566 : *也比不過它 05/28 21:37
推 genest666 : AI越來越像人會唬爛 噴！ 05/28 21:37