Çevremizdeki algoritmalar | MIT Teknoloji İncelemesi

Büyük tahminler bir yana, kitap yapay zekada gezinmek için yararlı bir rehber. Bu, dezavantajlarının anlaşılmasını da içerir. Örneğin ChatGPT veya onun benzeriyle oynayan herkes bu modellerin sıklıkla bir şeyler uydurduğunu bilir. Mollick, gelecekte doğrulukları artarsa ​​bunun bizi daha az temkinli yapmaması gerektiği konusunda uyarıyor. Yapay zeka daha yetenekli hale geldikçe ona güvenme olasılığımızın arttığını ve dolayısıyla hatalarını yakalama olasılığımızın azaldığını açıklıyor.

Yapay zekanın riski yalnızca bazı şeyleri yanlış anlayabilmemiz değil; eleştirel ve özgün düşünme yeteneğimizi kaybedebiliriz.

Ethan Mollick, profesör, Wharton İşletme Okulu

Yönetim danışmanları üzerinde yapılan bir çalışmada Mollick ve meslektaşları, katılımcıların yapay zekaya erişimleri olduğunda genellikle kendilerine verilen görevleri modele yapıştırdıklarını ve yanıtlarını kopyaladıklarını buldu. Bu strateji genellikle onların lehine işledi ve onlara yapay zeka kullanmayan danışmanlara karşı bir avantaj sağladı, ancak araştırmacılar yanıltıcı veriler içeren hileli bir soru sorduğunda geri tepti. Başka bir çalışmada, yüksek kaliteli yapay zeka kullanan işe alım görevlileri, düşük kaliteli yapay zeka kullanan veya hiç yapay zeka kullanmayan işe alım uzmanlarına göre “tembel, dikkatsiz ve kendi kararlarında daha az becerikli” hale geldi ve bu da onların iyi adayları gözden kaçırmasına neden oldu. Mollick yakınıyor: “Yapay zeka çok iyi olduğunda insanların çok çalışmak ve dikkat etmek için hiçbir nedeni yok.”

Yapay zeka kısayolunun cazibesine bir isim taktı: Düğme. “Boş sayfanın zulmüyle karşı karşıya kaldıklarında insanlar düğmeye basacak” diye yazıyor. Riskin yalnızca bazı şeyleri yanlış anlamamız olmadığını söylüyor; eleştirel ve özgün düşünme yeteneğimizi kaybedebiliriz. Muhakeme yeteneğimizi ve yaratıcılığımızı yapay zekaya devrederek, kendi bakış açımızı ve tarzımızı geliştirmek yerine onun bakış açısını ve tarzını benimsiyoruz. Mollick, aynı zamanda bir “anlam kriziyle de karşı karşıya olduğumuzu” belirtiyor. Örneğin bir özür ya da tavsiye mektubu yazmak için The Button’ı kullandığımızda, ayırdığımız zaman ve özen nedeniyle değerli olan bu jestler boşa çıkar.

Mollick, yapay zekayla nasıl çalışacağımız konusunda bilinçli davranarak yapay zekanın birçok tuzağını önleyebileceğimiz konusunda iyimser. Yapay zeka, hikaye anlatmak veya empatiyi taklit etmek gibi yapamaması gerektiğini düşündüğümüz şeylerde mükemmelleşerek ve temel matematik gibi yapması gerektiğini düşündüğümüz şeylerde fena halde başarısız olarak bizi sıklıkla şaşırtıyor. Yapay zeka için bir kullanım kılavuzu bulunmadığından Mollick, her şeyde onu denemeyi tavsiye ediyor. Gelişmeye devam eden yeteneklerini ve sınırlarını ancak onu sürekli test ederek öğrenebiliriz.

Mollick, eğer akılsız Düğme İticileri olmak istemiyorsak, yapay zekayı her şeyi bilen bir hizmetkar yerine eksantrik bir takım arkadaşı olarak düşünmemiz gerektiğini savunuyor. Ekipteki insanlar olarak yalanlarını ve önyargılarını kontrol etmek, kararlarının ahlaki olup olmadığını tartmak ve hangi görevlerin ona verilmeye değer olduğunu ve hangilerini kendimize saklamak istediğimizi düşünmek zorundayız.

Yapay zeka, pratik kullanımlarının ötesinde korku ve hayranlık uyandırır çünkü kim olduğumuza dair inançlarımıza meydan okur. Hannah Silva şöyle yazıyor: “Yapay zekanın insanlar hakkında ortaya çıkardığı şeylerle ilgileniyorum.” Çocuğum, AlgoritmaChatGPT’nin ilk öncüsü ile birlikte yazılmış, düşündürücü bir anı ve kurgu karışımı. Silva, BBC Radyosu için oyunlar yazan bir şair ve sanatçıdır. Londra’da eşcinsel, bekar bir ebeveyn olarak hayatını sürdürürken, algoritmayla konuşmaya başlıyor, algoritmayı sorularla ve kendi yazdıklarından alıntılarla besliyor ve karşılığında uzun, başıboş pasajlar alıyor. Kitapta, bulunmuş şiir parçaları gibi kendi sesini kendi sesiyle serpiştiriyor.

Silva’nın algoritması günümüz modellerine göre daha az rafine olduğundan dili daha tuhaftır ve saçmalıklara ve tekrarlara daha yatkındır. Ancak tuhaflıkları aynı zamanda kulağa derin de gelebilir. “Aşk buharın bir kabuğa doğru genişlemesidir“diyor. Kusurları bile komik veya anlayışlı olabilir. “Seks hakkında düşünüyorum, Seks hakkında düşünüyorum, Seks hakkında düşünüyorumdiye defalarca tekrarlanıyor ve Silva’nın kendi takıntısını yansıtıyor. “Bu tekrarlar, algoritma tökezlediğinde ve başarısız olduğunda meydana geliyor” diye gözlemliyor. “Yine de algoritmanın insani görünmesini sağlayan ve bende en insani tepkileri ortaya çıkaran şey tekrarlardır.”

Algoritma birçok yönden onun yetiştirdiği yürümeye başlayan çocuğa benziyor. Silva, “Algoritma ve çocuk, beslendikleri dilden öğrenirler” diye yazıyor. Her ikisi de kalıpları tahmin etmek için eğitildi. “EIEI-…” diye teşvik ediyor yürümeye başlayan çocuğu. “O!” diye yanıtlıyor. İkisi de onun yazısını yarıda kesiyor ve nadiren istediğini yapıyor. Her ikisi de hayal gücüyle onu memnun ediyor ve ona çalabileceği yeni fikirler veriyor. “Kutuda ne var?” yürümeye başlayan çocuk bir keresinde arkadaşına şunu sorar: Arkadaşı “Hiçbir şey” diye yanıtlıyor. “Boş.” Yeni yürümeye başlayan çocuk kutuyu düşürerek yere düşmesine izin verdi. “Boş değil!” diye haykırıyor. “İçinde bir gürültü var!”