Konseyin 36 üyesinin oyu, Kasım ayı sonlarında yürürlüğe giren öneriyi oybirliğiyle kabul etti. Ancak çoğunun bilmediği şey, meclis üyesi Ramiro Rosário metni yazmak için ChatGPT yapay zeka aracını kullandığını itiraf edene kadar teklifin metninin bir AI chatbot tarafından oluşturulduğuydu.
Associated Press’e “Bunu daha önce açıklamış olsaydım teklif kesinlikle oylamaya bile alınmazdı.” dedi.
Bu, yasa koyucular tarafından onaylanan ve yapay zeka tarafından yazılan ilk yasa. Açık olmak gerekirse, ChatGPT’den bu fikri bulması istenmedi; yalnızca ince baskıyı yazmak için bir araç olarak kullanıldı. Rosário, OpenAI‘nin kararsız sohbet robotuna teklifin tam taslağını oluşturması talimatını vermek için 49 kelimelik bir komut kullandığını söyledi.
Belediye meclisi başkanı Hamilton Sossmeier ilk başta meslektaşının yöntemlerini onaylamadı ve Rosário’nun “tehlikeli bir emsal” oluşturduğunu düşündü. Ancak daha sonra fikrini değiştirdi ve şöyle dedi: “Daha derinlemesine okumaya başladım ve ne yazık ki ya da neyse ki bunun bir trend olacağını gördüm.“
Sossmeier haklı olabilir. ABD’de Massachusetts eyaleti Senatörü Barry Finegold ve Temsilci Josh Cutler, bu yılın başında şu başlıklı yasa tasarısıyla manşetlere çıktılar: “ChatGPT gibi üretken yapay zeka modellerini düzenlemek için ChatGPT’nin yardımıyla hazırlanan bir Kanun.“
İkili, makine öğrenimi mühendislerinin intihal tespit etmek (ve muhtemelen insanların bir şeyin bilgisayar yapımı olduğunu bilmesini sağlamak) için büyük dil modelleri tarafından oluşturulan herhangi bir metne dijital filigran eklemesi gerektiğine inanıyor; sinir ağlarını eğitmek için verilerini toplamadan veya kullanmadan önce insanlardan açık onay alın ve teknolojilerine ilişkin düzenli risk değerlendirmeleri gerçekleştirin.
Yasal belgeler yazmak için ChatGPT gibi büyük dil modellerini kullanmak şu anda tartışmalı ve riskli; özellikle de sistemler bilgi üretme ve halüsinasyon yaratma eğiliminde olduğu için.
Haziran ayında, New York merkezli bir hukuk firmasını temsil eden avukatlar Steven Schwartz ve Peter LoDuca, bir davada ChatGPT tarafından uydurulan sahte hukuki davalara atıfta bulundukları için eleştirilere maruz kaldı.
2019 yılındaki bir uçuşta yaralanan bir yolcu adına Kolombiyalı havayolu şirketi Avianca’ya dava açıyorlardı ve ChatGPT’den benzer vakaları hatırlatmasını istediler. ChatGPT, öyle de yaptı ama aynı zamanda bazılarını da uydurdu. O zamanlar Schwartz ve LoDuca, hatalarını chatbot’un sınırlarını anlamamakla sınırlıyorlardı ve robotun bilgi halüsinasyonuna yol açabileceğini bilmediklerini iddia ediyorlardı.
New York Güney Bölge Mahkemesinden Yargıç Kevin Castel, karşı tarafın avukatlarının adı geçen mahkeme belgelerini bulamamaları üzerine davaların sahte olduğunu fark etti ve Schwartz ve LoDuca’dan kaynaklarını belirtmelerini istedi. Castel her ikisine de 5.000 dolar para cezası verdi ve davayı tamamen reddetti.
Silikon Vadisi Hukuk Grubu hissedarı ve Amerikan Barolar Birliği Yapay Zeka ve Robotik Ulusal Enstitüsü başkanı Stephen Wu, daha önce The Guardian’a şöyle dedi: “Buradan alınacak ders, bir avukatın sorumlu olduğu şeyleri bir makineye devredemeyeceğinizdir.“.
Ancak Rosário, teknolojinin etkili bir şekilde kullanılabileceğine inanıyor. “Ben şuna inanıyorum ki… insanlık yeni bir teknolojik devrim yaşayacak. Medeniyet olarak geliştirdiğimiz tüm araçlar hem kötülük hem de iyilik için kullanılabilir. Bu yüzden bunların nasıl iyilik için kullanılabileceğini göstermeliyiz.” dedi.
