Geoffrey Hinton, Kuzey Londra’da güzel bir sokakta bir evde yaşıyor. MIT Technology Review ile yaptığı görüşme, Google’dan ayrıldığını duyurmasından dört gün önce geldi ve bu haber hızla tüm dünyaya yayıldı. Bugün modern yapay zekanın kalbinde yer alan bazı temel tekniklerin geliştirilmesine yardımcı olan bu adam, derin öğrenme alanında bir öncüdür. Üniversiteden ayrıldıktan sonra internet devi için on yıl çalıştı. Ama artık istemiyor. Ve bunun çok özel bir nedeni var: Yapay zeka ile gelecek için endişeleniyor.
Hinton, mevcut ChatGPT’nin dayandığı GPT-4 gibi harika dil modellerinin (LLM’ler) neler yapabildiğine şaşırdığını söylüyor. Ve onsuz bugün olduğu yerde olması pek mümkün olmayan teknolojinin getirdiği ciddi riskleri görüyor.
Gözle görülür şekilde taşındı
Sohbet, Hinton’ın mutfak masasında başladı, ancak deneyimli İngiliz-Kanadalı AI, tüm süre boyunca volta attı. Yıllardır kronik sırt ağrısı çeken Hinton, neredeyse hiç oturmaz. Sonraki bir saat boyunca, konuşurken başını sallayarak odanın bir ucundan diğer ucuna gidip geldiği görüldü. Söyleyecek çok şeyi vardı.
Derin öğrenme, özellikle derin sinir ağları veya kısaca DNN’ler alanındaki çalışmaları nedeniyle 2018 Turing Ödülü’nü Yann LeCun ve Yoshua Bengio ile paylaşan 75 yaşındaki bilgisayar bilimcisi, vites değiştirmeye hazır olduğunu söyledi. “Pek çok ayrıntıyı hatırlamanız gereken teknik işler için çok yaşlanıyorum,” dedi bana. “Hala iyiyim ama eskisi kadar iyi değilim ve açıkçası bu can sıkıcı.” Ancak Google’dan ayrılmasının tek nedeni bu değil. Hinton artık zamanını “daha felsefi çalışma” dediği şeyi yaparak geçirmek istiyor. Bunu yaparken, AI’nın gelişiminin insanlık için bir felaket olabileceği gibi küçük ama çok gerçek bir tehlikeye odaklanacaktır.
Artık Google’ı dikkate almak yok
Hinton Google’dan ayrıldıktan sonra, yönetici seviyesindeki bir adamın uygulaması gereken otosansür olmadan fikrini söyleyebilir. “Google’ın işini nasıl etkileyeceği konusunda endişelenmeden yapay zekanın güvenlik sorunları hakkında konuşmak istiyorum” diyor. “Şirketten para aldığım sürece bunu yapamam.” Bu, Hinton’un Google’dan memnun olmadığı anlamına gelmez. “Bu sizi şaşırtabilir” diyor, “Google hakkında söyleyebileceğim pek çok güzel şey var. Ve artık Google’da olmadığımda bu çok daha inandırıcı oluyor.”
Hinton’un bakış açısı, Mart ayında piyasaya sürülen yeni nesil büyük dil modelleri, en önemlisi OpenAI’nin GPT-4’ü tarafından önemli ölçüde değişti. Makinelerin düşündüğünden çok daha akıllı hale gelmek üzere olduğunu anlamasını sağladı, diyor. Bunun nasıl gelişebileceği onu endişelendiriyor. “Bu şeyler bizim için tamamen farklı” diyor. “Bazen uzaylıların geldiğini ve insanların çok iyi İngilizce konuştukları için bunu fark etmediklerini düşünüyorum.”
Hinton en çok, 1980’lerde iki meslektaşıyla birlikte önerdiği, geri yayılım adı verilen bir teknik üzerindeki çalışmasıyla tanınır. Kısacası, makinelerin gerçekten öğrenmesini sağlayan algoritma budur. Bilgisayar görme sistemlerinden görüntü tanımaya ve büyük konuşma modellerine kadar günümüzde neredeyse tüm derin sinir ağlarının temelini oluşturur. 2010 yılına kadar, geri yayılımla eğitilmiş sinir ağlarının gücü, en iyi şekilde kullanılabilecekleri noktaya gerçekten ulaştı. Bazı öğrencilerle çalışan Hinton, daha sonra iş bir bilgisayara görüntülerdeki nesneleri tanımlamaya geldiğinde tekniğin her şeyden daha iyi olduğunu gösterdi. Ayrıca, günümüzün büyük dil modellerinin habercisi olan bir cümledeki sonraki harfleri tahmin edebilen bir sinir ağı da geliştirdiler.
Bu yüksek lisans öğrencilerinden biri, daha sonra OpenAI’yi kuran ve ChatGPT’nin geliştirilmesine öncülük eden Ilya Sutskever’di, bugün orada teknik direktör. Hinton, “Bu şeyin harika olabileceğine dair erken ipuçları vardı” diyor. “Ama gerçekten iyi olması için büyük ölçekte yapılması gerektiğini fark etmemiz uzun zaman aldı.” 80’lerde sinir ağları daha çok bir şakaydı. O dönemde hakim olan yapay zeka fikri, sözde sembolik AI, hala zekanın esas olarak kelimeler veya sayılar gibi sembollerin işlenmesinden oluştuğunu varsaydı.
yeni bir zeka
Hinton o zamanlar buna, bu yaklaşıma ikna olmamıştı. Sinir ağları, nöronların ve aralarındaki bağlantıların kodla temsil edildiği beyinlerin yazılım soyutlamaları üzerinde çalıştı. Bu nöronların nasıl bağlandığını – temsil ettikleri sayıları – değiştirerek, böyle bir sinir ağı anında “yeniden kablolanabilir”. Başka bir deyişle, öğrenmek için yapılabilir.
Hinton, “Babam bir biyologdu, bu yüzden biyolojik terimlerle düşündüm” diyor. Ve sembolik düşünme açıkça biyolojik zekanın özünde yer almıyor. “Kargalar bulmaca çözebilir ama dilleri yoktur. Bunu karakter dizilerini ezberleyerek ve onları manipüle ederek yapmazlar. Bunu beyinlerindeki nöronlar arasındaki bağlantıların gücünü değiştirerek yaparlar. Öyleyse mümkün olmalı, yapay sinir ağındaki bağlantıların gücünü değiştirerek bir şeyler öğrenmek karmaşık.”
Hinton, 40 yıl boyunca yapay sinir ağlarını biyolojik sinir ağlarının kötü bir kopyası olarak gördü. Şimdi bunun değiştiğini düşünüyor: Biyolojik beyinleri taklit etmeye çalışarak çok özel bir şey geliştirdiğimizi söylüyor. “Gördüğünde korkutucu” diyor. “Anahtar aniden çevrildi.” Hinton’un korkuları birçok okuyucuya bilim kurgu gibi gelecek. Ama onun muhakemesi dinlemeye değer.
Haberin Sonu
Hinton, mevcut ChatGPT’nin dayandığı GPT-4 gibi harika dil modellerinin (LLM’ler) neler yapabildiğine şaşırdığını söylüyor. Ve onsuz bugün olduğu yerde olması pek mümkün olmayan teknolojinin getirdiği ciddi riskleri görüyor.
Gözle görülür şekilde taşındı
Sohbet, Hinton’ın mutfak masasında başladı, ancak deneyimli İngiliz-Kanadalı AI, tüm süre boyunca volta attı. Yıllardır kronik sırt ağrısı çeken Hinton, neredeyse hiç oturmaz. Sonraki bir saat boyunca, konuşurken başını sallayarak odanın bir ucundan diğer ucuna gidip geldiği görüldü. Söyleyecek çok şeyi vardı.
Derin öğrenme, özellikle derin sinir ağları veya kısaca DNN’ler alanındaki çalışmaları nedeniyle 2018 Turing Ödülü’nü Yann LeCun ve Yoshua Bengio ile paylaşan 75 yaşındaki bilgisayar bilimcisi, vites değiştirmeye hazır olduğunu söyledi. “Pek çok ayrıntıyı hatırlamanız gereken teknik işler için çok yaşlanıyorum,” dedi bana. “Hala iyiyim ama eskisi kadar iyi değilim ve açıkçası bu can sıkıcı.” Ancak Google’dan ayrılmasının tek nedeni bu değil. Hinton artık zamanını “daha felsefi çalışma” dediği şeyi yaparak geçirmek istiyor. Bunu yaparken, AI’nın gelişiminin insanlık için bir felaket olabileceği gibi küçük ama çok gerçek bir tehlikeye odaklanacaktır.
Artık Google’ı dikkate almak yok
Hinton Google’dan ayrıldıktan sonra, yönetici seviyesindeki bir adamın uygulaması gereken otosansür olmadan fikrini söyleyebilir. “Google’ın işini nasıl etkileyeceği konusunda endişelenmeden yapay zekanın güvenlik sorunları hakkında konuşmak istiyorum” diyor. “Şirketten para aldığım sürece bunu yapamam.” Bu, Hinton’un Google’dan memnun olmadığı anlamına gelmez. “Bu sizi şaşırtabilir” diyor, “Google hakkında söyleyebileceğim pek çok güzel şey var. Ve artık Google’da olmadığımda bu çok daha inandırıcı oluyor.”
Hinton’un bakış açısı, Mart ayında piyasaya sürülen yeni nesil büyük dil modelleri, en önemlisi OpenAI’nin GPT-4’ü tarafından önemli ölçüde değişti. Makinelerin düşündüğünden çok daha akıllı hale gelmek üzere olduğunu anlamasını sağladı, diyor. Bunun nasıl gelişebileceği onu endişelendiriyor. “Bu şeyler bizim için tamamen farklı” diyor. “Bazen uzaylıların geldiğini ve insanların çok iyi İngilizce konuştukları için bunu fark etmediklerini düşünüyorum.”
Hinton en çok, 1980’lerde iki meslektaşıyla birlikte önerdiği, geri yayılım adı verilen bir teknik üzerindeki çalışmasıyla tanınır. Kısacası, makinelerin gerçekten öğrenmesini sağlayan algoritma budur. Bilgisayar görme sistemlerinden görüntü tanımaya ve büyük konuşma modellerine kadar günümüzde neredeyse tüm derin sinir ağlarının temelini oluşturur. 2010 yılına kadar, geri yayılımla eğitilmiş sinir ağlarının gücü, en iyi şekilde kullanılabilecekleri noktaya gerçekten ulaştı. Bazı öğrencilerle çalışan Hinton, daha sonra iş bir bilgisayara görüntülerdeki nesneleri tanımlamaya geldiğinde tekniğin her şeyden daha iyi olduğunu gösterdi. Ayrıca, günümüzün büyük dil modellerinin habercisi olan bir cümledeki sonraki harfleri tahmin edebilen bir sinir ağı da geliştirdiler.
Bu yüksek lisans öğrencilerinden biri, daha sonra OpenAI’yi kuran ve ChatGPT’nin geliştirilmesine öncülük eden Ilya Sutskever’di, bugün orada teknik direktör. Hinton, “Bu şeyin harika olabileceğine dair erken ipuçları vardı” diyor. “Ama gerçekten iyi olması için büyük ölçekte yapılması gerektiğini fark etmemiz uzun zaman aldı.” 80’lerde sinir ağları daha çok bir şakaydı. O dönemde hakim olan yapay zeka fikri, sözde sembolik AI, hala zekanın esas olarak kelimeler veya sayılar gibi sembollerin işlenmesinden oluştuğunu varsaydı.
yeni bir zeka
Hinton o zamanlar buna, bu yaklaşıma ikna olmamıştı. Sinir ağları, nöronların ve aralarındaki bağlantıların kodla temsil edildiği beyinlerin yazılım soyutlamaları üzerinde çalıştı. Bu nöronların nasıl bağlandığını – temsil ettikleri sayıları – değiştirerek, böyle bir sinir ağı anında “yeniden kablolanabilir”. Başka bir deyişle, öğrenmek için yapılabilir.
Hinton, “Babam bir biyologdu, bu yüzden biyolojik terimlerle düşündüm” diyor. Ve sembolik düşünme açıkça biyolojik zekanın özünde yer almıyor. “Kargalar bulmaca çözebilir ama dilleri yoktur. Bunu karakter dizilerini ezberleyerek ve onları manipüle ederek yapmazlar. Bunu beyinlerindeki nöronlar arasındaki bağlantıların gücünü değiştirerek yaparlar. Öyleyse mümkün olmalı, yapay sinir ağındaki bağlantıların gücünü değiştirerek bir şeyler öğrenmek karmaşık.”
Hinton, 40 yıl boyunca yapay sinir ağlarını biyolojik sinir ağlarının kötü bir kopyası olarak gördü. Şimdi bunun değiştiğini düşünüyor: Biyolojik beyinleri taklit etmeye çalışarak çok özel bir şey geliştirdiğimizi söylüyor. “Gördüğünde korkutucu” diyor. “Anahtar aniden çevrildi.” Hinton’un korkuları birçok okuyucuya bilim kurgu gibi gelecek. Ama onun muhakemesi dinlemeye değer.
Haberin Sonu