Kolombiya havayolu şirketi Avianca’ya karşı dava açan avukatlar, The New York Times tarafından bugün bildirildiği üzere, ChatGPT tarafından uydurulan bir dizi geçmiş davanın yer aldığı dilekçe sunmuşlardır.
Karşı taraf avukatlarının var olmayan davaları ortaya çıkarması üzerine, ABD Bölge Yargıcı Kevin Castel, “Sunulan altı davadan altısının sahte hukuki kararlar, sahte alıntılar ve sahte iç referanslar içerdiği görülüyor,” diyerek davacı avukatlarına yönelik yaptırımları değerlendirmek üzere bir duruşma düzenlemiştir.
Avukat Steven A. Schwartz, OpenAI’nin chatbotunu araştırma için kullandığını bir beyannameyle itiraf etmiştir. Davaların doğruluğunu doğrulamak için yapabileceği tek mantıklı şeyi yaptığını belirtmiş ve chatbot’a yalan söyleyip söylemediğini sormuştur.
Bir ekran görüntüsü, avukatın bir davanın gerçek olup olmadığını sorduğunu ve ChatGPT’nin bunun gerçek olduğunu belirttiğini göstermektedir. Avukat daha sonra “Kaynağınız Nedir?” diye sormuştur. Kaynak talep edildiğinde, ChatGPT önceki kafa karışıklığı için özür dilemiş ve dava dosyanın gerçek olduğunu ısrarla belirtmiştir. Hatta Westlaw ve LexisNexis gibi hukuk veri tabanlarında bulunabileceğini söylemiştir. Avukat bu yanıttan memnun kalmış ve diğer davaların da gerçek olduğunu sormuştur, bunun üzerine ChatGPT hepsinin gerçek olduğunu iddia etmiştir.
Schwartz, chatbot’un içeriğinin yanlış olabileceği olasılığından habersiz olduğunu belirtmiş ve bundan büyük pişmanlık duyduğunu ifade etmiştir. Artık araştırma yaparken chatbotları kesin doğruluk kontrolü yapmadan kullanmayacağını belirtmiştir
Bu olay, chatbotların kaynaklarını güvenilir kaynaklarla çapraz kontrol etmeden araştırma yapmak için kullanmanın yanlış olduğuna bir kez daha dikkat çekmektedir. Yazılı dilin kalıplarını başarılı bir şekilde taklit etmek ve kararlı bir güven havası yaratmak için temel konularda bile hatalar yapabilmekte, örneğin ketçapta “e” harfinin kaç kez olduğunu bilememesi, bu yeteneğin gerçek değerini düşürmektedir.
Bu olay, avukatın dilekçesindeki birçok yanlışlığı ortaya çıkarmış ve chatbot tarafından üretilen bilgileri bağımsız olarak doğrulamanın önemini vurgulamaktadır.
