Genç bir kadın ve annesi şu anda Amerikan yapay zeka politikasında önemli bir rol oynuyor: kurbandan önemli değişiklikleri uygulayabilecek aktiviste kadar. Ekim ayında Francesca Mani, New Jersey’deki Westfield Lisesi’nde deepfake porno kurbanı olan 30’dan fazla kızdan biriydi. Okuldaki çocuklar, Francesca ve sınıf arkadaşlarının fotoğraflarını çekmiş ve daha sonra yapay zeka yazılımı kullanarak onların rızası olmadan müstehcen görüntüler oluşturmak için onları değiştirmişti. (Okulun kendisi bu konuda basına yorum yapmıyor ancak 30’dan “çok daha az” öğrencinin etkilendiğini söylüyor.)
Duyuru
Ne yazık ki bu uygulama şaşırtıcı derecede yaygın, ancak bunun gibi hikayeler nadiren duyuluyor; bunun bir nedeni, cinsel taciz mağdurlarının çoğunun anlaşılır bir şekilde mahremiyete zarar veren bu tür eylemler hakkında kamuya açık konuşmak istememesidir. Ancak 15 yaşındaki Francesca, “şok edici” olarak nitelendirdiği yapay zeka saldırısını öğrendikten sadece bir gün sonra açıkça konuşmaya başladı ve ABD hükümetine sorun hakkında bir şeyler yapması çağrısında bulundu. Eyalet ve federal düzeylerde yasa teklifleri için yeni bir ivme oluştuğundan, çabaları şimdiden meyve vermeye başlıyor. Buna, New Jersey eyalet senatörleri Jon Bramnick ve Kristin Corrado’nun ortak sponsorluğunda, derin sahte pornografinin izinsiz üretimi ve dağıtımına hukuki ve cezai yaptırımlar uygulayacak bir yasa tasarısı da dahildir.
Francesca ve annesi Dorota, aktivizmleriyle her şeyden önce kendi başlarına değişemeyen kadınları ve kız çocuklarını desteklemek istediklerini söylüyor. MIT Technology Review, kazanın nasıl meydana geldiğini ve bu konuda neler yapılabileceğini daha iyi anlamak için Manis’le konuşma fırsatı buldu.
Bize tam olarak ne olduğunu ve nasıl keşfedildiğini anlatabilir misiniz?
Francesca: 20 Ekim’de bütün kızlar endişeliydi. Söylentiler dolaşmaya başladı ve tüm kızlar kendilerinin yapay zekanın kurbanlarından biri olacağını düşündü. Ve sonunda yönetim benim deepfake yaratan birçok kişiden biri olduğumu doğruladı. Tabii ki şok oldum çünkü ben ve diğer kızlar sınıf arkadaşlarımız tarafından çok saygısızlığa uğradık. Sınıf arkadaşlarımızın bize bunu yapacağını düşünmemiştik.
Şimdi bu deneyimler hakkında tüm bu insanlarla konuşmak cesurca bir davranış. Sizi aktif olmaya iten şey neydi?
Francesca: Kurbanlardan biri olana kadar bu yapay zeka teknolojisinin ne kadar karmaşık ve korkutucu olabileceğini bilmiyordum. Bu, kendimizi bu konuda eğitmenin ne kadar önemli olduğunu anlamamı sağladı çünkü yapay zeka burada kalacak ve kendimize ve başkalarına zarar vermeden onunla yaşamayı öğrenmeliyiz. Bunun ışığında, bu tür sistemlere karşı eğitime ve korunmaya yardımcı olmak için AI Heelelp adında bir web sitesi oluşturdum. Ayrıca AI mağdurlarının kendilerini savunmalarına yardımcı olacak kaynaklar da sağlayacağız. Ayrıca eyalet ve federal düzeyde bizi, çocukları ve kadınları deepfake’lerden koruyan yasalarımızın olduğundan emin olmak istiyorum.
Sizce diğer kızların ve kadınların yapay zekanın riskleri hakkında bilmesi gereken bazı önemli noktalar neler?
Francesca: Bunun herkesin başına gelebileceğini ve herkesin bunu yapabileceğini bilmek önemli. Örneğin sınıf arkadaşlarınız olabilir. Bana olan da buydu. İnsanlar, Instagram’da veya diğer sosyal medyada bir şey paylaşmaya başlarlarsa aynı şeyin kendilerinin de başına gelebileceğinin farkında olmalıdır. İmajınızı koruyun, hesabınızı özel yapın ve herkese açık bir hesap yerine yalnızca tanıdığınız kişiler gibi belirli takipçileri edinin.
Bu konuda siyasetçilerle yaptığınız görüşmeleri anlatır mısınız?
Francesca: Westfield’dan Senatör Bramnick ile yeni yapay zeka mevzuatını masaya yatırmama yardım etmesi konusunda konuşuyorum. Ülkemizi deepfake’lerden korumak için elinden gelen her şeyi yapacağına dair bana söz verdi. Ayrıca Senatör Corrado’nun tasarısına da hemen sponsor oldu. Ve eğer her şey yolunda giderse, Ocak 2024’e kadar New Jersey’de bu sorunları ele alacak bir yasa tasarısını yürürlüğe koyacağız. Ve senatörümün bu önemli amaç uğruna mücadele edecek kadar önemsediğini bilmek beni mutlu ediyor. Milletvekili [Joe] Morella [aus New York] ayrıca bizi her iki partiden Kongre’nin diğer üyeleriyle görüşmek üzere Washington’a davet etti.
Dorota: Washington ziyaretimizden sonra daha fazla destek alabileceğimizi ve işlerin nihayet ilerlemesini sağlayabileceğimizi umuyoruz. O zaman her zaman daha iyisini yapabiliriz.
Aktivizminiz aracılığıyla politika veya Amerikan hükümetinin işleyişi hakkında ne öğrendiniz?
Francesca: 14 yaşımdayken (15 yaşıma yeni girdiğimde) politikacıların beni dinlediğini ve yardım etmek istediğini bilmek beni çok memnun etti. Beni ve diğer kızları korumaya istekliydiler. Bundan öğrendiğim şey konuşmak ve korkmamaktı.
Polise suç duyurusunda bulunduğunuz biliniyor. Hangi yasal işlemi yapmayı umuyorsunuz?
Francesca: Bunu yapan kişinin okuldan uzaklaştırılmasını veya okuldan atılmasını gerçekten isterdim çünkü bunu yapanın sizin okulunuzdan biri olması durumunda herkesin kendini rahat hissetmesinin önemli olduğunu düşünüyorum. Ayrıca bir özür de isterim. Bu kişiyi affederdim ama onu asla unutmazdım.
Dorota, okulun tepkisinden memnun olmadığını söylemiştin. Okulların bu tür durumlara müdahale etmek veya bunları önlemek için farklı şekilde yapması gerektiğini düşündüğünüz bir şey var mı?
Dorota: Bu konuda eğitimin çok önemli olduğunu düşünüyorum; çocuklarımızı eğitmek, kendimizi eğitmek ve ardından sorumluluk almak. Kızlarımıza değerli olduklarını öğretmek için bu fırsatı değerlendirmeliyiz diye düşünüyorum. Kurban olmuş olsalar bile bu, onların utanmaları, her şeyi olduğu gibi kabul etmeleri ve geçeceğini ummaları gerektiği anlamına gelmez. Burada harika bir okul bölgemiz var. Öğretmenlerimiz muhteşem. Francesca öğretmenlerinin desteği olmasaydı tüm bu durumun üstesinden gelemezdi. Onun hakkında yeterince iyi şeyler söyleyemem.
Ancak yönetim aynı zamanda durumun sakinleşeceğini de umuyor. Bu konuda elimde resmi bir rapor yok. Sonuç yok, sorumluluk yok, mazeret yok. Ben de bir eğitimciyim. Jersey City’de özel bir okulum var. Bir anne ve bir kadın olarak başkaları için ayağa kalktığımı düşünüyorum. Kızımı destekliyorum ama bir eğitimci olarak çocuklarımız için de güvenli bir ortam yaratmak istiyorum çünkü böyle bir şey herkesin başına gelebilir. Mağdurun mutlaka kadın olması gerekmiyor ve bunun kabul edilemez olduğuna dair net bir mesaj vermemiz gerektiğini düşünüyorum.
[In einer Erklärung an MIT Technology Review teilte der Superintendent der Schule, Raymond González mit: “Der Westfield Public School District hat Sicherheitsvorkehrungen getroffen, um zu verhindern, dass dies in unserem Netzwerk und auf den von der Schule ausgegebenen Geräten passieren kann. Wir werden unsere Bemühungen weiter verstärken, indem wir unsere Schüler über diese Dinge aufklären und klare Richtlinien aufstellen, um sicherzustellen, dass diese neuen technischen Verfahren in unseren Schulen und darüber hinaus verantwortungsvoll genutzt werden.” Die Schule sagte auch, dass sie eine sofortige Untersuchung durchgeführt habe und mit der Polizei zusammenarbeitet.]
Çocuklara neyin uygun, neyin uygunsuz olduğunu ve kendilerini bu tür tehlikelerden nasıl koruyacaklarını öğretmek konusunda daha fazla eğitimin rol oynaması gerektiğini düşünüyor musunuz?
Dorota: Elbette, kesinlikle. Birçok durumda öyle olacağını düşünüyorum [digitale Bildung] örneğin yapay zekanın tehlikelerini gösteren bir spor öğretmeni tarafından işe alındı. Birbirimize karşı dürüst olalım: Bu, sürekli gelişen, çok karmaşık ve gelişmiş bir teknolojidir. Sadece okul yılının başında değil, bir uzmanın bu dersi vermesini sağlamalıyız. En az iki veya üç kez tekrarlanmalı ve anlamlı bir şekilde öğretilmelidir. Böyle bir şeyin insanların yaşamları üzerinde gerçek bir etkisi vardır.
Francesca’nın gerçekten güçlü bir kişiliği var. O her zaman bir savaşçıydı. Ve kendisini kendi adına konuştuğu için alkışlıyorum. İlk başta bana “Anne, kavga etmek istiyorum” dediğinde ben de şöyle dedim: “Francesca, her iki yönde de olabileceğini bilmeni istiyorum. Yaptığın işten memnun olan insanlardan haber alacaksın ve buna gerçekten karşı olan insanlardan senin hakkında “duyacaksın ve buna hazırlıklı olmalısın.” Cevabı şu oldu: “Ben çocuk değilim. İnsanların görüşlerine tahammül edebilirim ve ne düşünüyorsam onu söylemek isterim.” Ancak herkes Francesca ile aynı karaktere sahip değil. Herkes evde olduğu gibi aynı desteğe sahip olmayacak. Ve tünelin sonundaki ışığı göremeyecek ve bu nedenle kendilerine zarar verecek, hatta kendilerini öldürecek kızlar ve oğlanlar olacak. Ve bunu beklememiz gerektiğini düşünmüyorum. Anlamlı bir eğitim en önemli şeydir.
Francesca: Ayrıca tüm okul bölgelerini siber zorbalık politikalarını güncelleyerek yapay zekanın bir tanımını eklemeye ve bir öğrenci tarafından deepfake oluşturulması durumunda bunun sonuçlarını belirlemeye davet ediyorum. Mevzuatın geçmesi zaman alabilir ancak okul politikaları hemen güncellenebilir ve güncellenmelidir.
Bu işe gerçekten çok büyük bir ivme kattığınızı hissediyorum. Olumsuz tepkiler aldınız mı?
Francesca: Hayır, pek değil. Harika bir topluluğa sahip olduğumu ve arkadaşlarımın ve öğretmenlerimin desteğini aldığımı bilmek güzel. Onlara teşekkür etmek istiyorum. Amerikalı olmaktan da gurur duyuyorum. Bugün 15 yaşındaki bir çocuğun sesinin olumlu değişim getirebileceği bir ülkede yaşıyorum.
(Jle)
Haberin Sonu
Duyuru
Ne yazık ki bu uygulama şaşırtıcı derecede yaygın, ancak bunun gibi hikayeler nadiren duyuluyor; bunun bir nedeni, cinsel taciz mağdurlarının çoğunun anlaşılır bir şekilde mahremiyete zarar veren bu tür eylemler hakkında kamuya açık konuşmak istememesidir. Ancak 15 yaşındaki Francesca, “şok edici” olarak nitelendirdiği yapay zeka saldırısını öğrendikten sadece bir gün sonra açıkça konuşmaya başladı ve ABD hükümetine sorun hakkında bir şeyler yapması çağrısında bulundu. Eyalet ve federal düzeylerde yasa teklifleri için yeni bir ivme oluştuğundan, çabaları şimdiden meyve vermeye başlıyor. Buna, New Jersey eyalet senatörleri Jon Bramnick ve Kristin Corrado’nun ortak sponsorluğunda, derin sahte pornografinin izinsiz üretimi ve dağıtımına hukuki ve cezai yaptırımlar uygulayacak bir yasa tasarısı da dahildir.
Francesca ve annesi Dorota, aktivizmleriyle her şeyden önce kendi başlarına değişemeyen kadınları ve kız çocuklarını desteklemek istediklerini söylüyor. MIT Technology Review, kazanın nasıl meydana geldiğini ve bu konuda neler yapılabileceğini daha iyi anlamak için Manis’le konuşma fırsatı buldu.
Bize tam olarak ne olduğunu ve nasıl keşfedildiğini anlatabilir misiniz?
Francesca: 20 Ekim’de bütün kızlar endişeliydi. Söylentiler dolaşmaya başladı ve tüm kızlar kendilerinin yapay zekanın kurbanlarından biri olacağını düşündü. Ve sonunda yönetim benim deepfake yaratan birçok kişiden biri olduğumu doğruladı. Tabii ki şok oldum çünkü ben ve diğer kızlar sınıf arkadaşlarımız tarafından çok saygısızlığa uğradık. Sınıf arkadaşlarımızın bize bunu yapacağını düşünmemiştik.
Şimdi bu deneyimler hakkında tüm bu insanlarla konuşmak cesurca bir davranış. Sizi aktif olmaya iten şey neydi?
Francesca: Kurbanlardan biri olana kadar bu yapay zeka teknolojisinin ne kadar karmaşık ve korkutucu olabileceğini bilmiyordum. Bu, kendimizi bu konuda eğitmenin ne kadar önemli olduğunu anlamamı sağladı çünkü yapay zeka burada kalacak ve kendimize ve başkalarına zarar vermeden onunla yaşamayı öğrenmeliyiz. Bunun ışığında, bu tür sistemlere karşı eğitime ve korunmaya yardımcı olmak için AI Heelelp adında bir web sitesi oluşturdum. Ayrıca AI mağdurlarının kendilerini savunmalarına yardımcı olacak kaynaklar da sağlayacağız. Ayrıca eyalet ve federal düzeyde bizi, çocukları ve kadınları deepfake’lerden koruyan yasalarımızın olduğundan emin olmak istiyorum.
Sizce diğer kızların ve kadınların yapay zekanın riskleri hakkında bilmesi gereken bazı önemli noktalar neler?
Francesca: Bunun herkesin başına gelebileceğini ve herkesin bunu yapabileceğini bilmek önemli. Örneğin sınıf arkadaşlarınız olabilir. Bana olan da buydu. İnsanlar, Instagram’da veya diğer sosyal medyada bir şey paylaşmaya başlarlarsa aynı şeyin kendilerinin de başına gelebileceğinin farkında olmalıdır. İmajınızı koruyun, hesabınızı özel yapın ve herkese açık bir hesap yerine yalnızca tanıdığınız kişiler gibi belirli takipçileri edinin.
Bu konuda siyasetçilerle yaptığınız görüşmeleri anlatır mısınız?
Francesca: Westfield’dan Senatör Bramnick ile yeni yapay zeka mevzuatını masaya yatırmama yardım etmesi konusunda konuşuyorum. Ülkemizi deepfake’lerden korumak için elinden gelen her şeyi yapacağına dair bana söz verdi. Ayrıca Senatör Corrado’nun tasarısına da hemen sponsor oldu. Ve eğer her şey yolunda giderse, Ocak 2024’e kadar New Jersey’de bu sorunları ele alacak bir yasa tasarısını yürürlüğe koyacağız. Ve senatörümün bu önemli amaç uğruna mücadele edecek kadar önemsediğini bilmek beni mutlu ediyor. Milletvekili [Joe] Morella [aus New York] ayrıca bizi her iki partiden Kongre’nin diğer üyeleriyle görüşmek üzere Washington’a davet etti.
Dorota: Washington ziyaretimizden sonra daha fazla destek alabileceğimizi ve işlerin nihayet ilerlemesini sağlayabileceğimizi umuyoruz. O zaman her zaman daha iyisini yapabiliriz.
Aktivizminiz aracılığıyla politika veya Amerikan hükümetinin işleyişi hakkında ne öğrendiniz?
Francesca: 14 yaşımdayken (15 yaşıma yeni girdiğimde) politikacıların beni dinlediğini ve yardım etmek istediğini bilmek beni çok memnun etti. Beni ve diğer kızları korumaya istekliydiler. Bundan öğrendiğim şey konuşmak ve korkmamaktı.
Polise suç duyurusunda bulunduğunuz biliniyor. Hangi yasal işlemi yapmayı umuyorsunuz?
Francesca: Bunu yapan kişinin okuldan uzaklaştırılmasını veya okuldan atılmasını gerçekten isterdim çünkü bunu yapanın sizin okulunuzdan biri olması durumunda herkesin kendini rahat hissetmesinin önemli olduğunu düşünüyorum. Ayrıca bir özür de isterim. Bu kişiyi affederdim ama onu asla unutmazdım.
Dorota, okulun tepkisinden memnun olmadığını söylemiştin. Okulların bu tür durumlara müdahale etmek veya bunları önlemek için farklı şekilde yapması gerektiğini düşündüğünüz bir şey var mı?
Dorota: Bu konuda eğitimin çok önemli olduğunu düşünüyorum; çocuklarımızı eğitmek, kendimizi eğitmek ve ardından sorumluluk almak. Kızlarımıza değerli olduklarını öğretmek için bu fırsatı değerlendirmeliyiz diye düşünüyorum. Kurban olmuş olsalar bile bu, onların utanmaları, her şeyi olduğu gibi kabul etmeleri ve geçeceğini ummaları gerektiği anlamına gelmez. Burada harika bir okul bölgemiz var. Öğretmenlerimiz muhteşem. Francesca öğretmenlerinin desteği olmasaydı tüm bu durumun üstesinden gelemezdi. Onun hakkında yeterince iyi şeyler söyleyemem.
Ancak yönetim aynı zamanda durumun sakinleşeceğini de umuyor. Bu konuda elimde resmi bir rapor yok. Sonuç yok, sorumluluk yok, mazeret yok. Ben de bir eğitimciyim. Jersey City’de özel bir okulum var. Bir anne ve bir kadın olarak başkaları için ayağa kalktığımı düşünüyorum. Kızımı destekliyorum ama bir eğitimci olarak çocuklarımız için de güvenli bir ortam yaratmak istiyorum çünkü böyle bir şey herkesin başına gelebilir. Mağdurun mutlaka kadın olması gerekmiyor ve bunun kabul edilemez olduğuna dair net bir mesaj vermemiz gerektiğini düşünüyorum.
[In einer Erklärung an MIT Technology Review teilte der Superintendent der Schule, Raymond González mit: “Der Westfield Public School District hat Sicherheitsvorkehrungen getroffen, um zu verhindern, dass dies in unserem Netzwerk und auf den von der Schule ausgegebenen Geräten passieren kann. Wir werden unsere Bemühungen weiter verstärken, indem wir unsere Schüler über diese Dinge aufklären und klare Richtlinien aufstellen, um sicherzustellen, dass diese neuen technischen Verfahren in unseren Schulen und darüber hinaus verantwortungsvoll genutzt werden.” Die Schule sagte auch, dass sie eine sofortige Untersuchung durchgeführt habe und mit der Polizei zusammenarbeitet.]
Çocuklara neyin uygun, neyin uygunsuz olduğunu ve kendilerini bu tür tehlikelerden nasıl koruyacaklarını öğretmek konusunda daha fazla eğitimin rol oynaması gerektiğini düşünüyor musunuz?
Dorota: Elbette, kesinlikle. Birçok durumda öyle olacağını düşünüyorum [digitale Bildung] örneğin yapay zekanın tehlikelerini gösteren bir spor öğretmeni tarafından işe alındı. Birbirimize karşı dürüst olalım: Bu, sürekli gelişen, çok karmaşık ve gelişmiş bir teknolojidir. Sadece okul yılının başında değil, bir uzmanın bu dersi vermesini sağlamalıyız. En az iki veya üç kez tekrarlanmalı ve anlamlı bir şekilde öğretilmelidir. Böyle bir şeyin insanların yaşamları üzerinde gerçek bir etkisi vardır.
Francesca’nın gerçekten güçlü bir kişiliği var. O her zaman bir savaşçıydı. Ve kendisini kendi adına konuştuğu için alkışlıyorum. İlk başta bana “Anne, kavga etmek istiyorum” dediğinde ben de şöyle dedim: “Francesca, her iki yönde de olabileceğini bilmeni istiyorum. Yaptığın işten memnun olan insanlardan haber alacaksın ve buna gerçekten karşı olan insanlardan senin hakkında “duyacaksın ve buna hazırlıklı olmalısın.” Cevabı şu oldu: “Ben çocuk değilim. İnsanların görüşlerine tahammül edebilirim ve ne düşünüyorsam onu söylemek isterim.” Ancak herkes Francesca ile aynı karaktere sahip değil. Herkes evde olduğu gibi aynı desteğe sahip olmayacak. Ve tünelin sonundaki ışığı göremeyecek ve bu nedenle kendilerine zarar verecek, hatta kendilerini öldürecek kızlar ve oğlanlar olacak. Ve bunu beklememiz gerektiğini düşünmüyorum. Anlamlı bir eğitim en önemli şeydir.
Francesca: Ayrıca tüm okul bölgelerini siber zorbalık politikalarını güncelleyerek yapay zekanın bir tanımını eklemeye ve bir öğrenci tarafından deepfake oluşturulması durumunda bunun sonuçlarını belirlemeye davet ediyorum. Mevzuatın geçmesi zaman alabilir ancak okul politikaları hemen güncellenebilir ve güncellenmelidir.
Bu işe gerçekten çok büyük bir ivme kattığınızı hissediyorum. Olumsuz tepkiler aldınız mı?
Francesca: Hayır, pek değil. Harika bir topluluğa sahip olduğumu ve arkadaşlarımın ve öğretmenlerimin desteğini aldığımı bilmek güzel. Onlara teşekkür etmek istiyorum. Amerikalı olmaktan da gurur duyuyorum. Bugün 15 yaşındaki bir çocuğun sesinin olumlu değişim getirebileceği bir ülkede yaşıyorum.
(Jle)
Haberin Sonu