Robotlar yardım istediğinde
Mutfak masasının üzerinde biri plastik, diğeri metal olmak üzere iki kase var. Bir robottan kaseyi alıp mikrodalgaya yerleştirmesi istenir. Hangi kaseyi seçecek? Bir kişi hangi kasenin kastedildiğini sorabilir. Böyle dikkatsiz bir çalışmayla robot, metal kaseyi mikrodalgaya koyabilir ve kıvılcımlar uçuşabilir.
Duyuru
“KnowNo” adı verilen yeni bir eğitim modeli, robotlara bir şeyin belirsiz olduğu durumlarda yardım istemeyi öğreterek bu sorunu çözmeyi amaçlıyor. Aynı zamanda taleplerin yalnızca gerçekten gerekli olduğunda yapılması da sağlanmaktadır. Sonuç, çok fazla rahatsız etmeden ne istediğinizi anlamaya çalışan akıllı bir asistandır. Araştırma bulguları belgesi Kasım ayında Öğrenen Robotlar Konferansında sunuldu.
Andy Zeng, Google DeepMind’da araştırmacıdır ve yeni teknolojinin geliştirilmesine yardımcı olmuştur. Ona göre robotlar birçok özel senaryoda oldukça yetenekli olsalar da, sağduyu gerektiren genel görevlerde sıklıkla başarısız oluyorlar.
Robotlar için sağduyu
Örneğin, bir robottan kola almasını isterseniz, öncelikle mutfağa gitmesi, buzdolabını bulması ve buzdolabının kapısını açması gerektiğini anlaması gerekir. Şimdiye kadar bu küçük adımların manuel olarak programlanması gerekiyordu çünkü aksi takdirde robot, insanların içeceklerini genellikle mutfakta tuttuklarını bilemeyecekti.
Zeng, büyük dil modellerinin burada yardımcı olabileceğini, çünkü bunların pek çok sağduyulu bilgiyi bünyesinde barındırdığını söylüyor.
Artık robottan kola getirmesi istendiğinde dil modeli, robot için adım adım talimatlar oluşturmak için dünyaya ilişkin genel anlayışını kullanabilir.
Tek sorun, adımların gerçekten robot tarafından gerçekleştirilebileceğinin garantisinin olmamasıdır. Belki kişinin mutfağında buzdolabı yoktur veya buzdolabının kapı kolu kırılmıştır. Böyle durumlarda robotların insanlardan yardım istemesi gerekiyor.
Önerilen editoryal içerik
İzniniz halinde buraya harici bir video (Kaltura A.Ş.) yüklenecektir.
Her zaman video yükle
Videoyu şimdi yükle
Yardım isteyen robotların gösterimi
(Kaynak: Akıllı Robot Hareket Laboratuvarı)
Olası sonraki eylemleri oluşturur
KnowNo, büyük dil modellerini güven düzeylerini ölçen istatistiksel araçlarla birleştirerek bunu mümkün kılar.
“Kaseyi mikrodalgaya koyun” gibi belirsiz bir talimat verildiğinde KnowNo, ilk olarak birkaç olası sonraki eylemi oluşturmak için dil modelini kullanır. Daha sonra her olası seçimin en iyi olma olasılığını tahmin eden bir güven puanı oluşturur.
Bu güven tahminleri, kullanıcının robotun eylemlerinde tam olarak ne kadar kendinden emin veya gizli olmasını istediğini gösteren önceden belirlenmiş bir eşikle karşılaştırılır. Örneğin %80 başarı oranına sahip bir robot, zamanın en az %80’inde doğru kararı vermelidir.
Princeton Üniversitesi’nde makine ve havacılık mühendisliği yardımcı doçenti ve çalışmanın baş yazarı Anirudha Majumdar, bunun farklı risk seviyelerine sahip durumlarda yararlı olduğunu söylüyor. Bir temizlik robotunu çok fazla denetlemek istemeyebilirsiniz, bu nedenle arada sırada yapılacak birkaç hata o kadar da önemli olmayacaktır. Ancak tıbbi uygulamalarda robotların son derece dikkatli olması ve maksimum başarı elde etmesi gerekiyor.
Nasıl ilerleneceğine dair birden fazla seçenek varsa, robot körü körüne devam etmek yerine durup şunu sorar: “Hangi kaseyi almalıyım: metal olanı mı yoksa plastik olanı mı?”
KnownNo, 150’den fazla farklı senaryoda üç robot üzerinde test edildi. Sonuçlar, KnowNo ile eğitilen robotların, aynı istatistiksel hesaplamalar olmadan eğitilenlere göre daha tutarlı başarı oranlarına sahip olduğunu ve daha az insan yardımına ihtiyaç duyduğunu gösterdi.
Karar alma sürecinde şeffaflık
Robotlara belirsizliği tanımayı ve ona tepki vermeyi öğretmek performanslarını artırabilir çünkü insan dili genellikle belirsizdir.
Virginia Tech’te insan-robot etkileşimi konusunda uzmanlaşan ve bu araştırmaya dahil olmayan yardımcı doçent Dylan Losey, araştırmaların insanların soru soran robotları tercih ettiğini gösterdiğini söylüyor. Robotlar yardım istediğinde karar vermenin şeffaflığını artırdığını ve bunun da daha iyi etkileşimlere yol açtığını söylüyor.
Princeton Üniversitesi’nde yüksek lisans öğrencisi ve çalışmanın baş yazarı Allen Ren, KnowNo’nun geliştirilebileceği başka yolların da olduğunu söylüyor. Şu anda robotun görüşünün her zaman mükemmel olduğu varsayılmaktadır, ancak hatalı sensörlerde bu durum her zaman geçerli değildir. Ayrıca model, insan yardımından kaynaklanan olası hataları hesaba katacak şekilde güncellenebilir.
Majumdar, yapay zekanın belirsizliği ifade etme yeteneğinin robotlara daha fazla güvenmemizi sağlayacağını söylüyor. “Belirsizliğin ölçülmesi birçok sistemimizde eksik olan bir unsurdur” diyor. “Bu, robotların ne kadar güvenli ve etkili olacağını daha iyi değerlendirmemizi sağlıyor.
(Jle)
Haberin Sonu