Yüksek Mahkeme, cinayet davasında ChatGPT kullandığı gerekçesiyle avukata para cezası verdi

New Mexico Yüksek Mahkemesi, Santa Fe'li avukat Stephen Aarons'ı, ChatGPT tarafından uydurulan tanıklıklar ve tanıklar içeren bir temyiz dilekçesi sunduğu için yakın zamanda mahkemeye itaatsizlikten suçlu buldu. Geçen yıl, Aarons cinayetten mahkum edilen bir müvekkilini savunurken, duruşma kayıtlarını özetlemek için sohbet robotunu kullandı, ancak ortaya çıkan belgeyi önceden herhangi bir düzeltme okuması yapmadan mahkemeye sundu. Dava özetinde, var olmayan tanıklara atfedilen ifadelerin yanı sıra, gerçek bir tanığa yanlış bir şekilde atfedilen uydurma sözler de yer alıyordu.

Mahkemenin tepkisi sert oldu. Yargıç C. Shannon Bacon, hukuki dosyalarda yapay zekanın "halüsinasyonlarının" ne sıklıkla manşetlere taşındığını göz önünde bulundurarak, Aarons’a haberleri hiç takip edip etmediğini açıkça sordu ve onun bu olguyu ya görmezden geldiğini ya da müvekkilinin davasını pervasızca riske attığını ima etti. Kırk yılı aşkın süredir avukatlık yapan Aarons, kendi “aptallığını” kabul etti ve yazılımın güvenilir bir özet üreteceğini yanlış bir şekilde varsaydığını da ekledi.

Azarlama dışında mahkeme, müvekkil koruma fonuna ödenmek üzere 5.000 dolarlık para cezası verdi ve konuyu eyalet avukat disiplin kuruluna sevk etti. Bu dava, avukatların mahkemeye doğrulanmamış, yapay zeka tarafından üretilmiş materyaller sunduktan sonra yaptırımlarla veya disiplin soruşturmalarıyla karşı karşıya kaldıkları diğer birkaç vakayı takip ediyor (1, 2, 3).