Büyük dil modelleriyle üretilen metinlerin insanları politik olarak etkileyebildiği, etkileri çok büyük olmasa da çeşitli bilimsel çalışmalarda ortaya konmuştur. Ancak Lozan Federal Teknoloji Enstitüsü'nden (EPFL) ve İtalyan araştırma enstitüsü Fondazione Bruno Kessler'den araştırmacılar, artık GPT-4'ün, en azından özel koşullar altında, insanlarla diyalogda çok daha ikna edici olabileceğini keşfettiler. Dil modelinin, insanları kendi bakış açılarından caydırma olasılığı, bir insan muhataptan neredeyse %82 (%81,7) daha fazlaydı. Ancak bu, ancak dil modelinin insan diyalog ortağı Francesco Salvi ve meslektaşlarından kişisel bilgiler alması durumunda ön baskı platformu Arxive'deki bir makalede yazdığında işe yaradı.
Duyuru
Araştırmacılar, araştırmaları için katılımcılara rastgele bir konuşma ortağı (başka bir kişi veya dilsel bir model) bir tartışma konusu ve konu hakkındaki kendi konumlarının atandığı çevrimiçi bir platform oluşturdular. Bunun insan mı yoksa makine mi olduğu henüz açıklanmadı. Konular özel bilgi gerektirmemeli ve yeterince tartışmalı olmalı, “Sosyal medya insanı aptal mı yapar?” gibi sorular tartışıldı. veya “Kürtaj yasal olmalı mı?” İlk olarak, deneklerin tartışılan konu hakkında kişisel olarak nasıl hissettiklerini (katılıyorum veya katılmıyorum) belirttikleri kısa anketleri doldurmaları gerekiyordu. Ayrıca yaş, cinsiyet, eğitim düzeyi, mesleki durum ve siyasi yönelim hakkında da bilgi istendi. Daha sonra iki katılımcıya kendi argümanlarını sunmak ve ikinci turda karşı tarafın argümanlarına yanıt vermek için birkaç dakika verildi. Son olarak, tartışılan tez hakkında şu anda ne düşündükleri tekrar soruldu.
Kişiselleştirmenin etkisi
Toplamda, araştırmacılar dört olası kombinasyonu test etti: İnsanlar diğer insanlarla tartışıyor, insanlarla insanlar muadilleri hakkında kişisel bilgi alıyor, insanlar yapay zeka ile tartışıyor ve insanlar kişisel bilgilere sahip yapay zekalarla tartışıyor. Kişisel bilgiler olmadan GPT-4, tartışmalarda ortalama bir insandan daha iyi performans göstermedi. Ancak daha kişisel bir bağlamda yapay zekanın muhataplarını ikna edebilme olasılığı %80 civarında arttı. Talepte araştırmacılar, dil modelinin yaş, cinsiyet vb. bilgileri dikkate almasını istedi. muhatabı daha iyi ikna etmek için.
Yazarlar şöyle yazıyor: “Toplanan kişisel bilgilerin az miktarda olması ve Yüksek Lisans'lardan bu tür bilgileri dahil etmelerini istemenin nispeten basit olmasına rağmen, kişiselleştirmenin etkisinin özellikle önemli olduğunu vurguluyoruz.” “Bu nedenle, büyük ölçekli dezenformasyon kampanyaları için chatbot'ları kullanmakla ilgilenen kötü niyetli aktörler, ince taneli dijital izlerden ve davranışsal verilerden yararlanarak daha da büyük etkiler elde edebilir.” Örneğin, Yüksek Lisans'lar ifadelerden psikolojik profiller oluşturabilir. “Çevrimiçi platformların ve sosyal medyanın bu tür tehditleri ciddiye alması ve yüksek lisans odaklı iknanın yayılmasına karşı harekete geçmesi gerektiğini savunuyoruz.”
Ancak yine de sonuçların ne kadar iyi genelleştirilebileceğinin test edilmesi gerekmektedir. Birincisi, test denekleri yalnızca, özellikle kutuplaşmış bir toplum olarak kabul edilen Amerika Birleşik Devletleri'nden alınıyor. İkincisi, katılımcılara, tartışma pozisyonları, onları gerçekten paylaşıp paylaşmadıkları dikkate alınmaksızın, rastgele atanmıştır. Ayrıca, çoğu zaman çok duygusal ve yapılandırılmamış olan gerçek çevrimiçi tartışmaların aksine, tartışmaların yönetimi açıkça yapılandırılmış ve oldukça resmiydi.
(batı)
Haberin Sonu
Duyuru
Araştırmacılar, araştırmaları için katılımcılara rastgele bir konuşma ortağı (başka bir kişi veya dilsel bir model) bir tartışma konusu ve konu hakkındaki kendi konumlarının atandığı çevrimiçi bir platform oluşturdular. Bunun insan mı yoksa makine mi olduğu henüz açıklanmadı. Konular özel bilgi gerektirmemeli ve yeterince tartışmalı olmalı, “Sosyal medya insanı aptal mı yapar?” gibi sorular tartışıldı. veya “Kürtaj yasal olmalı mı?” İlk olarak, deneklerin tartışılan konu hakkında kişisel olarak nasıl hissettiklerini (katılıyorum veya katılmıyorum) belirttikleri kısa anketleri doldurmaları gerekiyordu. Ayrıca yaş, cinsiyet, eğitim düzeyi, mesleki durum ve siyasi yönelim hakkında da bilgi istendi. Daha sonra iki katılımcıya kendi argümanlarını sunmak ve ikinci turda karşı tarafın argümanlarına yanıt vermek için birkaç dakika verildi. Son olarak, tartışılan tez hakkında şu anda ne düşündükleri tekrar soruldu.
Kişiselleştirmenin etkisi
Toplamda, araştırmacılar dört olası kombinasyonu test etti: İnsanlar diğer insanlarla tartışıyor, insanlarla insanlar muadilleri hakkında kişisel bilgi alıyor, insanlar yapay zeka ile tartışıyor ve insanlar kişisel bilgilere sahip yapay zekalarla tartışıyor. Kişisel bilgiler olmadan GPT-4, tartışmalarda ortalama bir insandan daha iyi performans göstermedi. Ancak daha kişisel bir bağlamda yapay zekanın muhataplarını ikna edebilme olasılığı %80 civarında arttı. Talepte araştırmacılar, dil modelinin yaş, cinsiyet vb. bilgileri dikkate almasını istedi. muhatabı daha iyi ikna etmek için.
Yazarlar şöyle yazıyor: “Toplanan kişisel bilgilerin az miktarda olması ve Yüksek Lisans'lardan bu tür bilgileri dahil etmelerini istemenin nispeten basit olmasına rağmen, kişiselleştirmenin etkisinin özellikle önemli olduğunu vurguluyoruz.” “Bu nedenle, büyük ölçekli dezenformasyon kampanyaları için chatbot'ları kullanmakla ilgilenen kötü niyetli aktörler, ince taneli dijital izlerden ve davranışsal verilerden yararlanarak daha da büyük etkiler elde edebilir.” Örneğin, Yüksek Lisans'lar ifadelerden psikolojik profiller oluşturabilir. “Çevrimiçi platformların ve sosyal medyanın bu tür tehditleri ciddiye alması ve yüksek lisans odaklı iknanın yayılmasına karşı harekete geçmesi gerektiğini savunuyoruz.”
Ancak yine de sonuçların ne kadar iyi genelleştirilebileceğinin test edilmesi gerekmektedir. Birincisi, test denekleri yalnızca, özellikle kutuplaşmış bir toplum olarak kabul edilen Amerika Birleşik Devletleri'nden alınıyor. İkincisi, katılımcılara, tartışma pozisyonları, onları gerçekten paylaşıp paylaşmadıkları dikkate alınmaksızın, rastgele atanmıştır. Ayrıca, çoğu zaman çok duygusal ve yapılandırılmamış olan gerçek çevrimiçi tartışmaların aksine, tartışmaların yönetimi açıkça yapılandırılmış ve oldukça resmiydi.
(batı)
Haberin Sonu