Bunları sadece Ukrayna’daki savaş ve İsrail’e yapılan son saldırı gibi konularda değil, sosyal medyada ve yorum kısımlarında da rahatlıkla bulabilirsiniz: hakaret, düşmanlık ve nefret dolu yorumlar. Kuzey Ren-Vestfalya Medya Otoritesi tarafından bu yaz yaptırılan temsili bir anket, ankete katılanların yüzde 76’sının internette nefret söylemine maruz kaldığını ve neredeyse yüzde 40’ının da bu nefret söylemine maruz kaldıklarını söylediği sonucuna vardı. Bu ABD anketleriyle tutarlıdır.
Duyuru
İnternetteki bazen zehirli söylem nasıl iyileştirilebilir? Amerika Birleşik Devletleri’ndeki Brigham Young Üniversitesi ve Duke Üniversitesi’ndeki araştırmacıların bir fikri var: Çevrimiçi tonu daha kibar hale getirmek için yapay zekayı kullanmak istiyorlar. Yakın zamanda bulgularını PNAS bilimsel dergisinde yayınladılar.
Araştırmanın odağını özel olarak geliştirilen ve toplam 1.500 kişiyle test edilen çevrimiçi bir platform oluşturuyor. Siyasi ve duygusal açıdan yüklü bir konu hakkında farklı görüşlere sahip iki kişiyi isimsiz olarak bir araya getirdi; bu olayda Amerika Birleşik Devletleri’nde silah sahipliği vardı. Konuyu özgürce tartışmaları gerekiyordu ama tamamen yalnız değillerdi: Arka planda moderatör rolünü bir yapay zeka sohbet robotu devraldı.
Yapay zeka sayesinde daha keyifli sohbetler
GPT-3 dil modelini temel alan yapay zeka asistanı, içerikleri değiştirmeden veya tezi çarpıtmadan yanıtları dil açısından daha kibar veya arkadaşça hale getirmek için yorum yazdıktan hemen sonra özel yeniden kelime önerileri sunabiliyor. Her yanıt için katılımcılar yapay zekanın önerilerini kabul etme, reddetme veya değiştirme fırsatına sahip oldu. Testin sonunda görüşmenin kalitesini değerlendirmek için onlara bir anket verildi.
Araştırmaya katılan bilgisayar bilimi profesörü David Wingate, “Yeniden formülasyonlar ne kadar sık kullanılırsa, katılımcıların kendilerini daha iyi anlaşıldıklarını hissetme olasılıkları da o kadar artıyor” diyor.
Önerilerin her biri mevcut söylem ve iletişim teorisinden türetilen üç tekniğe dayanmaktadır: tekrarlama, doğrulama ve nezaket. Test sırasında yapay zeka toplam 2.742 yeniden formülasyon yaptı ve tüm deneklerin üçte ikisi önerileri kabul etti. Yeniden formülasyonların %40’ı nezaketten, %30’u ise söylenenlerin tekrarı ve doğrulanmasından kaynaklandı.
Sosyal ağların potansiyeli var mı?
Araştırmada, “Bulgularımız, bu basit müdahalenin görüşmenin kalitesini artırabileceğine ve aynı zamanda demokratik karşılıklılığa olan bağlılığı güçlendirebileceğine dair ikna edici kanıtlar sunuyor” diyor. Araştırmacılar sistemi ölçeklendirme, yani onu çevrimiçi bir ortamın veya Facebook gibi bir sosyal ağın yorum sütunlarına uygulama potansiyelini görüyorlar. Bu da insan moderatörlerin üzerindeki yükü hafifletebilir.
Graham Media Group, yaz boyunca çevrimiçi yorumlarda daha dostane ve daha yapıcı tartışmalar başlatmak için farklı bir yaklaşımı test etti. Bu amaçla “First Dibs” sohbet robotunu geliştirdi (OpenAI’nin GPT 3.5’ini temel alıyor). Yorumlar bölümündeki yazılarda konuyla ilgili sorular sordu. Graham Media’dan bir yönetici, bunun görüşmeleri daha verimli bir yöne taşıyabileceğini söyledi.
Ancak pratikte bu o kadar basit değil. En iyi formülasyonlar için yapay zekayı geliştiren ekip, yapay zekanın kişisel bakış açılarını tanıyabildiğini ve bunları yeniden formüle ederek fikirleri çarpıtamayacağını iddia etse de dikkatli olunması tavsiye edilir: GPT gibi büyük dil modelleri önyargı ve çarpıtmalardan muaf değildir ve Nasıl uygulandıklarına bağlı olarak, belirli bakış açılarını kasıtlı olarak teşvik etme riski vardır.
(Jle)
Haberin Sonu
Duyuru
İnternetteki bazen zehirli söylem nasıl iyileştirilebilir? Amerika Birleşik Devletleri’ndeki Brigham Young Üniversitesi ve Duke Üniversitesi’ndeki araştırmacıların bir fikri var: Çevrimiçi tonu daha kibar hale getirmek için yapay zekayı kullanmak istiyorlar. Yakın zamanda bulgularını PNAS bilimsel dergisinde yayınladılar.
Araştırmanın odağını özel olarak geliştirilen ve toplam 1.500 kişiyle test edilen çevrimiçi bir platform oluşturuyor. Siyasi ve duygusal açıdan yüklü bir konu hakkında farklı görüşlere sahip iki kişiyi isimsiz olarak bir araya getirdi; bu olayda Amerika Birleşik Devletleri’nde silah sahipliği vardı. Konuyu özgürce tartışmaları gerekiyordu ama tamamen yalnız değillerdi: Arka planda moderatör rolünü bir yapay zeka sohbet robotu devraldı.
Yapay zeka sayesinde daha keyifli sohbetler
GPT-3 dil modelini temel alan yapay zeka asistanı, içerikleri değiştirmeden veya tezi çarpıtmadan yanıtları dil açısından daha kibar veya arkadaşça hale getirmek için yorum yazdıktan hemen sonra özel yeniden kelime önerileri sunabiliyor. Her yanıt için katılımcılar yapay zekanın önerilerini kabul etme, reddetme veya değiştirme fırsatına sahip oldu. Testin sonunda görüşmenin kalitesini değerlendirmek için onlara bir anket verildi.
Araştırmaya katılan bilgisayar bilimi profesörü David Wingate, “Yeniden formülasyonlar ne kadar sık kullanılırsa, katılımcıların kendilerini daha iyi anlaşıldıklarını hissetme olasılıkları da o kadar artıyor” diyor.
Önerilerin her biri mevcut söylem ve iletişim teorisinden türetilen üç tekniğe dayanmaktadır: tekrarlama, doğrulama ve nezaket. Test sırasında yapay zeka toplam 2.742 yeniden formülasyon yaptı ve tüm deneklerin üçte ikisi önerileri kabul etti. Yeniden formülasyonların %40’ı nezaketten, %30’u ise söylenenlerin tekrarı ve doğrulanmasından kaynaklandı.
Sosyal ağların potansiyeli var mı?
Araştırmada, “Bulgularımız, bu basit müdahalenin görüşmenin kalitesini artırabileceğine ve aynı zamanda demokratik karşılıklılığa olan bağlılığı güçlendirebileceğine dair ikna edici kanıtlar sunuyor” diyor. Araştırmacılar sistemi ölçeklendirme, yani onu çevrimiçi bir ortamın veya Facebook gibi bir sosyal ağın yorum sütunlarına uygulama potansiyelini görüyorlar. Bu da insan moderatörlerin üzerindeki yükü hafifletebilir.
Graham Media Group, yaz boyunca çevrimiçi yorumlarda daha dostane ve daha yapıcı tartışmalar başlatmak için farklı bir yaklaşımı test etti. Bu amaçla “First Dibs” sohbet robotunu geliştirdi (OpenAI’nin GPT 3.5’ini temel alıyor). Yorumlar bölümündeki yazılarda konuyla ilgili sorular sordu. Graham Media’dan bir yönetici, bunun görüşmeleri daha verimli bir yöne taşıyabileceğini söyledi.
Ancak pratikte bu o kadar basit değil. En iyi formülasyonlar için yapay zekayı geliştiren ekip, yapay zekanın kişisel bakış açılarını tanıyabildiğini ve bunları yeniden formüle ederek fikirleri çarpıtamayacağını iddia etse de dikkatli olunması tavsiye edilir: GPT gibi büyük dil modelleri önyargı ve çarpıtmalardan muaf değildir ve Nasıl uygulandıklarına bağlı olarak, belirli bakış açılarını kasıtlı olarak teşvik etme riski vardır.
(Jle)
Haberin Sonu