Google DeepMind, saf matematikte çözülmemiş ünlü bir problemi çözmek için büyük dil modeli (LLM) kullandı. Nature dergisinde bugün yayınlanan bir makalede araştırmacılar, uzun süredir devam eden bilimsel bir bulmacanın çözümünü keşfetmek için ilk kez büyük bir dil modelinin kullanıldığını ve daha önce var olmayan doğrulanabilir ve değerli yeni bilgiler üretildiğini söylüyorlar. Google, FunSearch ile “halüsinasyon” sorununu çözmüş olabilir
Büyük dil modelleri, yeni gerçekler sağlamak yerine bir şeyler uydurmakla ünlü. Google DeepMind’ın FunSearch adlı yeni aracı bunu değiştirebilir. Bu araç, modellerin gerçekten de keşif yapabildiklerini gösteriyor. FunSearch, Google’ın PaLM 2‘sinin bilgisayar kodu üzerinde ince ayarlanmış bir versiyonu olan Codey adlı büyük bir dil modelini, yanlış veya anlamsız cevapları reddeden ve iyi olanları geri ekleyen diğer sistemlerle birleştiriyor. Ve bu sayede büyük dil modellerinin sıklıkla yaşadığı halüsinasyon, yani uydurma bilgi üretme sorunu giderilmiş gibi görünüyor.
Google DeepMind’da araştırmacı bilim insanı olan Alhussein Fawzi ise bunun nasıl olduğunu henüz bilmediklerini söylüyor: “Size karşı dürüst olmak gerekirse, hipotezlerimiz var, ancak bunun neden işe yaradığını tam olarak bilmiyoruz. Projenin başında bunun işe yarayıp yaramayacağını bilmiyorduk.” Araştırmacılar, çözmek istedikleri problemin taslağını popüler bir programlama dili olan Python’da çizerek işe başladılar. Ancak programda sorunun nasıl çözüleceğini belirten satırları boş bıraktılar. İşte FunSearch burada devreye giriyor. Codey’den boşlukları doldurmasını, yani sorunu çözecek kodu önermesi isteniyor.
Codey, boşlukları doldururken ikinci bir algoritma Codey’nin bulduklarını kontrol ederek puanlıyor. En iyi öneriler -henüz doğru olmasa bile- kaydedilip Codey’e geri veriliyor ve Codey programı tekrar tamamlamaya çalışıyor.
Daha önce bilinmeyen bir çözüm üretti
Birkaç milyon öneri ve genel sürecin birkaç düzine tekrarından sonra – ki bu birkaç gün sürdü – FunSearch, belirli bir küme türünün en büyük boyutunu bulmayı içeren “cap set problemine” doğru ve daha önce bilinmeyen bir çözüm üreten bir kod bulmayı başardı. Mevcut sezgisel yöntem kullanılarak cap set probleminin açıklayıcı örneğini üstte görüyorsunuz. En uygun sezgisel (solda) ve FunSearch tarafından keşfedilen yeni çözümü (sağda) arasındaki fark açık bir şekilde anlaşılabiliyor.
Bu elbette süper niş bir olay ama oldukça önemli. Matematikçiler bırakın çözümün ne olduğunu, nasıl çözüleceği konusunda bile hemfikir değiller.
Çok yönlülüğünü test etmek için araştırmacılar FunSearch’ü matematikteki başka bir zor probleme yaklaşmak için kullandılar: öğeleri mümkün olduğunca az kutuya paketlemey içeren “bin-packing” problemi. Bu, veri merkezi yönetiminden e-ticarete kadar bilgisayar bilimlerindeki bir dizi uygulama için önemli. FunSearch bu problemi çözmek için insanların geliştirdiği çözümlerden daha hızlı bir yol buldu.