Çeşitli kuruluşlar genelinde önyargı, performans ve etik uyumlulukla ilgili yapay zeka modellerini denetlemek için kapsamlı yöntemleri araştırmak amacıyla yönetici liderlerle işbirliği yapmak üzere 5 Haziran’da New York’a dönerken bize katılın. Nasıl yapabileceğinizi öğrenin buraya katıl.
Eklemeli misin pizzanıza yapıştırın, doğrudan güneşe bakmak Günde 30 dakika yemek yiyin kayalar veya zehirli bir mantardavranmak buzla yılan ısırığıVe Golden Gate Köprüsü’nden atlamak?
Google Arama’nın yeni “Yapay Zekaya Genel Bakış” özelliği aracılığıyla sunulan bilgilere göre, açıkça aptalca ve zararlı olan bu öneriler, yalnızca iyi fikirler değil, aynı zamanda bir kullanıcının kendi imza ürünüyle arama yaparken görmesi gereken tüm olası sonuçların başında geliyor.
Neler oluyor, tüm bu kötü bilgiler nereden geldi ve Google neden şu anda arama sonuçları sayfalarının en üstüne koyuyor? Hadi dalalım.
Google AI’ye Genel Bakış nedir?
Google, büyük dil modeli (LLM) sohbet robotu ve arama oyununda rakip OpenAI’ye ve hit sohbet robotu ChatGPT’ye yetişmek amacıyla “” adı verilen yeni bir özelliği tanıttı.Üretken Deneyim Arayın” yaklaşık bir yıl önce, Mayıs 2023’te.
VB Etkinliği
Yapay Zeka Etki Turu: Yapay Zeka Denetimi
Üst düzey yönetici liderlerle etkileşimde bulunmak, çeşitli kuruluşlar genelinde adaleti, optimum performansı ve etik uyumu sağlamak amacıyla yapay zeka modellerini denetlemeye yönelik stratejileri incelemek üzere 5 Haziran’da New York’a döndüğümüzde bize katılın. Yalnızca davetle katılabileceğiniz bu özel etkinliğe katılımınızı güvence altına alın.
Davet et
O zamanlar şu şekilde tanımlandı: “Daha derine inmek için bağlantılarla birlikte dikkate alınması gereken önemli bilgilerin yapay zeka destekli anlık görüntüsü” ve temel olarak Google Arama giriş çubuğunun hemen altında, geleneksel mavi bağlantılar listesinin üzerinde yeni bir metin paragrafı olarak göründü. kullanıcı genellikle Google’da arama yaparken elde edilir.
Özelliğin Aramaya özel yapay zeka modelleri tarafından desteklendiği söylendi. O zamanlar bu bir “katılma” hizmetiydi ve kullanıcıların bu hizmeti açmak için bir dizi aşamadan geçmesi gerekiyordu.
Ancak 10 gün önce Google’da G/Ç konferansıYapay zekayla ilgili bir dizi duyurunun ortasında şirket, Arama Üretken Deneyimin Yapay Zeka Genel Bakışları olarak yeniden adlandırıldığını ve Google Arama’da varsayılan deneyim olarak geliyor ABD’deki kullanıcılardan başlayarak tüm kullanıcılara
Bunun yolları var kapatın veya AI Genel Bakışları olmadan Google Aramaları yapın (yani Google Arama’daki “Web” sekmesi), ancak artık bu durumda kullanıcıların bunu yapmak için birkaç ekstra adım atması gerekiyor.
Google AI Genel Bakışı neden tartışmalı?
Google, ABD’deki kullanıcılar için AI Genel Bakışını varsayılan olarak açtığından beri, bazıları farklı sorgularda arama yaparken bu özellikte ortaya çıkan korkunç, berbat, işe yaramaz sonuçları yayınlamak için X’i ve diğer sosyal siteleri kullanıyor.
Bazı durumlarda yapay zeka destekli özellik son derece yanlış, kışkırtıcı ve düpedüz tehlikeli bilgileri görüntülemeyi tercih ediyor.
Müzisyen Lil Nas X’in de aralarında bulunduğu ünlüler bile bu yığılmaya katıldı:
Diğer sonuçlar daha zararsızdır ancak yine de hatalıdır ve Google’ın aptal ve güvenilmez görünmesine neden olur:
AI’nın ürettiği düşük kaliteli sonuçlar kendi başına bir hayat kazandı ve hatta bazı kullanıcıların Google’ın gerçek sonuçlarda zaten olduğundan daha da kötü görünmesini sağlamak için ekran görüntülerine photoshop yanıtları vermesiyle bir mem haline geldi:
Google, her sonucun altına şu metni koyarak Yapay Zeka Genel Bakış özelliğini “deneysel” olarak nitelendirdi: “Üretken Yapay Zeka deneyseldir” ve Yeni özelliği daha ayrıntılı olarak açıklayan sayfa.
Bu sayfada Google şunu yazıyor: “Yapay Zeka Genel Bakışları, daha derine inmek için önemli bilgiler ve bağlantılar içeren, yapay zeka tarafından oluşturulan bir anlık görüntü sağlayarak arama işini ortadan kaldırabilir… Kullanıcı geri bildirimleri ve insan incelemeleri ile sonuçlarımızın kalitesini değerlendiriyor ve geliştiriyoruz ve ürünleri sorumlu bir şekilde üretiyoruz.”
Google AI/Genel Bakış’ı çekecek mi?
Ancak bazı kullanıcılar X’i (eski adıyla Twitter) kullanarak Google’a başvurdu veya arama devinin yapay zekaya genel bakış özelliğini en azından geçici olarak kaldıracağını tahmin etti. Gemini AI görüntü oluşturma özelliği Bu yılın başlarında ırksal ve tarihsel olarak yanlış görüntüler yarattığı ortaya çıktı ve bu da Silikon Vadisi’nin önde gelen özgürlükçülerini ve Marc Andreessen ve Elon Musk gibi politik açıdan muhafazakar figürleri kızdırdı.
Bir açıklamada SınırBir Google sözcüsü, AI Genel Bakış özelliği hakkında kullanıcıların örnekler gösterdiğini söyledi “Genellikle çok nadir sorgular ve çoğu insanın deneyimlerini temsil etmiyor.”
Ek olarak, Sınır şunu bildirdi: “Şirket, politikalarının ihlallerine karşı harekete geçti… ve ürünü geliştirmeye devam etmek için bu ‘münferit örnekleri’ kullanıyor.”
Ancak bazılarının X’te gözlemlediği gibi bu, kurbanı suçlamaya çok benziyor.
Diğerleri, AI geliştiricilerinin, AI Genel Bakış’ta gösterilen türde tehlikeli sonuçlardan yasal olarak sorumlu tutulabileceğini öne sürdü:
Daha da önemlisi, teknoloji gazetecileri ve diğer dijital okuryazar kullanıcılar, Google’ın daha önce Arama dizininde indekslediği içeriğin özetlerini oluşturmak için yapay zeka modellerini kullandığını, kendi oluşturmadığı ancak yine de kullanıcılarına “sağlamak için güvendiği içeriği” belirttiler. anahtar bilgi.”
Sonuç olarak, aramaların yüzde kaçının bu hatalı bilgiyi gösterdiğini söylemek zor.
Ancak bir şey açık: Yapay Zeka Genel Bakışı, Google Arama’nın güvenilmez kaynaklardan gelen dezenformasyona veya özetlemeden sorumlu temel yapay zeka modellerinin bunu anlayamadığı ve bunun yerine ciddi olarak ele aldığı şaka olarak yayınlanan bilgilere daha önce olduğundan daha yatkın görünüyor.
Kullanıcıların bu sonuçlarda sunulan bilgilere göre gerçekten hareket edip etmeyeceklerini zaman gösterecek; ancak bunu yaparlarsa bu açıkça akıllıca olmaz ve sağlık ve güvenlikleri açısından risk oluşturabilir.
Kullanıcıların alternatif kaynakları kontrol edecek kadar akıllı olmasını umalım. Diyelim ki rakip yapay zeka arama girişimi Şaşkınlıkşu anda Google’ın Yapay Zeka Genel Bakışlarına göre doğru bilgileri ortaya çıkarmada daha az sorun yaşıyor gibi görünüyor (arama devi ve kullanıcıları için talihsiz bir ironi, göz önüne alındığında) Makine öğrenimi transformatör mimarisinin ilk kez tasarlanması ve ifade edilmesinde Google’ın rolü modern üretken AI/LLM patlamasının kalbinde).
Kaynak: https://venturebeat.com/ai/legitimately-dangerous-googles-erroneous-ai-overviews-spark-mockery-concern/