隨著人工智慧（AI）技術發展，美國發生首起因「AI生成影像」引發的判決撤銷爭議。亞利桑那州上訴法院於10月1日作出裁決，認定在一起槍擊殺人案聽證會上，法官允許播放由受害者家屬透過AI生成的「死者親口發言」影片，屬於違法裁量，原判決裁定被告10年刑期也遭到撤銷廢除，將發回重新量刑。
槍擊命案量刑聽證 家屬用AI讓死者「親自」說原諒
根據《BBC》報導，本案發生於2021年，現年55歲的被告霍爾卡西塔斯（Gabriel Horcasitas）在亞利桑那州一處路口與37歲的佩爾基（Christopher Pelkey）發生衝突，隨後開槍將佩爾基擊斃。兩人素不相識，僅是因過路糾紛引發分歧，陪審團最終裁定霍爾卡西塔斯二級殺人罪名成立。
在2025年的量刑聽證會上，受害者的妹妹威爾斯（Stacey Wales）利用佩爾基生前留下的聲音檔、影像及照片，透過生成式AI技術製作了一段「虛擬佩爾基」影片，並獲准在法庭上播放。
影片中，頭戴灰色棒球帽的「AI佩爾基」對著殺害自己的兇手說，「很遺憾我們那天在那種情況下相遇，在另一種平行人生裡，我們或許能成為朋友。我相信寬恕，也相信一位願意寬恕的神，我過去一直如此，現在依然如此」。
當時審理此案的法官蘭格（Todd Lang）深受感動，當庭表示「我非常喜歡那段AI影片，謝謝你們。即便家屬心中懷有正當的憤怒，但我聽到了寬恕，我覺得那是極其真實的」。法官隨後判處被告10年有期徒刑。
遭上訴法院定調「跨越紅線」
被告律師隨後提出上訴，主張法庭不應允許這類生成式AI影片作為量刑參考。最終亞利桑那州上訴法院裁定，該段AI影片確實「已經跨越了法律紅線」。上訴法官於判決書中強調，「該AI影片並非在記錄某一真實事件或特定歷史時刻，而是將受害者的形象及其思想，建立在其妹妹的『主觀想像』之上」。
法院認為，將家屬個人主觀編造的言語，透過生成式AI套入死者口中並於法庭播放，容易造成審判者心證的偏頗與情感渲染，嚴重損害訴訟程序的公平性。
隨著生成式AI技術普及，在法庭上利用AI協助的界線在哪，已成為全球法學界面臨的新課題。亞利桑那州上訴法院的這項裁決，首開先例地為法庭使用AI技術樹立了明確倫理邊界。