"Açıkça dürüst olmayan": Matematikçi, OpenAI'nin özel sohbetlerindeki eğitim konusunda kendisine yalan söylediğini iddia ediyor

Dresden Teknik Üniversitesi’nde (TU Dresden) grup teorisyenliği yapan Andreas Thom, özel ChatGPT oturumlarının, OpenAI’nin 1 Ağustos’ta Astra’nın çözdüğünü söylediği on problemden biri olan, bilinen ilk non-sofic grubu üreten OpenAI sonucuna katkıda bulunup bulunmadığını kamuoyuna sordu.

Mathstodon'da yayınladığı üç bölümlük uzun bir gönderide Thom, bu duyurunun hemen ardından OpenAI araştırmacıları Mark Sellke ve Sebastien Bubeck'e e-posta gönderdiğini yazdı. Thom ve Dresden'li bir meslektaşı, aylarca ChatGPT içinde Gabor Kun ile birlikte genişletici eşleştirme problemi ve çalışmasının uzantıları üzerinde çalışmış ve iki şey sormuştu: bu yazışmaların eğitim verilerine dahil edilip edilmediği ve sistemin ispat üzerinde çalışırken bu yazışmalara erişip erişemediği. Thom'un aktardığına göre Sellke'nin cevabı tek satırlıydı: böyle bir şey olmadı. Thom, bu cevabın yalnızca “doğrudan erişim” kısmını ele aldığını savunuyor. Thom şimdi bu cevabı haksız yere geniş kapsamlı ve geriye dönüp bakıldığında dürüst olmayan bir cevap olarak nitelendiriyor.

Post by @[email protected]

View on Mastodon

Bu tartışma, OpenAI'nin Navier-Stokes duyurusu ile birlikte bu hafta yeniden gündeme geldi. OpenAI, bu açıklamada ne araştırmacılarının ne de temsilcilerinin yayınlanmadan önce ikilinin çalışmasını görmediğini ve hiçbir spesifik kullanıcı verisine erişilmediğini belirtti. Ayrıca, ürünlerinin kullanımından elde edilen kimlik bilgileri kaldırılmış verilerin modellerinin geliştirilmesine katkıda bulunmuş olabileceğini de ekledi. 

İki başka nokta da onun argümanını destekliyor. Thom, 29 Haziran’da model eğitimini devre dışı bıraktı. Model eğitimi, kullanıcıların denetleyemediği bir ayardır — önceki sohbetler hakkında hiçbir bilgi vermez. Çoğu araştırmacı, Thom’un Kun ile izlediği yaklaşıma kıyasla kuantum oyunları yöntemlerini tercih ediyordu; bu nedenle Astra’nın kendisiyle aynı yolu seçmesine şaşırdı.

Bu yazının yazıldığı sırada Thom, kanıt sunduğunu iddia etmekten kaçındı. Bunun yerine, OpenAI’dan reddetme gerekçesini açıklamalarını istedi.

OpenAI, Thom’un paylaşımlarına kamuoyuna açık bir şekilde yanıt vermedi.