OpenAI, AI tarafından oluşturulan görsellerin etiketlenmesinde Meta’ya katılıyor

Rakibin gerisinde kalmamak için, OpenAI bugün, önemli uygulama ChatGPT’yi ve entegre AI görüntü oluşturucu modelini güncellediğini duyurdu. E-3’TEN İTİBARENşirketin ve teorik olarak web üzerindeki herhangi bir kullanıcının veya başka bir kuruluşun, görüntülerin yapay zeka araçlarıyla yapılmış olduğunu tanımlamasına olanak tanıyacak yeni meta veri etiketlemesini içerecek.

Hareket geldi Meta’nın benzer bir tedbiri açıklamasından yalnızca birkaç saat sonra ayrı aracılığıyla oluşturulan AI görüntülerini etiketlemek için AI görüntü oluşturucu Imagine ve Instagram, Facebook ve Threads’de mevcuttur (ve ayrıca bu sosyal platformların bazılarından kullanıcılar tarafından gönderilen görüntüler üzerine eğitilmiştir).

“ChatGPT’de ve API’mizde oluşturulan görseller artık C2PA spesifikasyonlarını kullanan meta verileri içeriyor.” OpenAI, kurumsal hesabından X ve LinkedIn sosyal platformlarında paylaşımda bulundu. “Bu, herkesin (sosyal platformlar ve içerik dağıtıcıları dahil) ürünlerimiz tarafından bir görselin oluşturulduğunu görmesine olanak tanıyor.”

OpenAI, değişikliğin şu anda web için geçerli olduğunu ve 12 Şubat’a kadar tüm mobil ChatGPT kullanıcıları için uygulanacağını söyledi.

Şirket ayrıca, adlı bir web sitesine bir bağlantı da ekledi. İçerik Kimlik Bilgileri Kullanıcılar, uyguladığı yeni kod sayesinde, bunun yapay zeka tarafından üretilip üretilmediğini doğrulamak için bir görseli yükleyebiliyordu. Ancak değişiklik yalnızca şu kişiler için geçerlidir: yeni ChatGPT ve DALL-3 ile oluşturulan AI görüntüleri — bugünden önce oluşturulanların hiçbirinde meta veriler bulunmayacak.

C2PA nedir?

İçeriğin Kaynağı ve Orijinalliği Koalisyonu veya C2PAnispeten yeni çaba o kaynaktan çıktı Ortak Kalkınma VakfıAdobe, ARM, Intel ve Microsoft (OpenAI’nin yatırımcısı ve iş ortağı) gibi şirketler tarafından finanse edilen diğer birçok kuruluştan oluşan kar amacı gütmeyen bir kuruluştur. New York Times (şu anda telif hakkı ihlali nedeniyle OpenAI’ye dava açıyor), BBC, CBC ve daha birçok medya ve teknoloji firması.

Oldu Şubat 2021’de kurulduChatGPT yayınlanmadan önce, “dezenformasyon, yanlış bilgilendirme ve çevrimiçi içerik sahtekarlığının yaygınlığını ele almak” amacıyla “medya içeriğinin kaynağını, geçmişini veya menşeini doğrulamak için teknik standartlar geliştirmek” amacıyla.

Ocak 2022’de, C2PA ilk teknik standartlarını yayınladı Sorumlu AI model üreticileri ve şirketlerindeki geliştiricilerin, bazı koşullar altında görüntünün bir AI aracı tarafından oluşturulduğunu ortaya çıkaracak meta verileri (görüntünün kendisi için hayati olmayan ekstra veriler) nasıl kodlayabilecekleri konusunda.

Bu görev, yapay zeka tarafından oluşturulan açık ve rıza dışı gibi yüksek profilli örneklerle son zamanlarda yeniden aciliyet kazandı. Grammy ödüllü müzisyen Taylor Swift’in deepfake’leri X sosyal platformunda geniş çapta yayılıyor ve benzer şekilde rıza dışı açık bir şekilde lise öğrencilerinin deepfake’leri akranları arasında.

Ayrı fakat bağlantılı olarak, Çin’in Hong Kong merkezli bir çalışanının dolandırıldığı dolandırıcılıktan yapay zeka video ve ses klonlama sorumlu tutuldu. Dolandırıcılara 25 milyon dolar aktarmak için kandırıldılar ismi açıklanmayan çok uluslu bir şirketten geliyor ve halihazırda ses klonlama kullanılıyor ABD 2024 seçim döngüsünü etkilemek.

OpenAI bu yılın başlarında C2PA’yı tanıtacağını söylemişti 2024 küresel seçimleri öncesinde dezenformasyonla mücadele etme çabası içerisindeyiz ve bugünkü haberler, şirketin bu sözünü yerine getirdiğini gösteriyor.

C2PA, bir yapay zeka görüntü dosyasını oluşturan gerçek koda elektronik bir “imza” biçimindeki meta verileri yerleştirerek platformların yapay zeka tarafından oluşturulan içeriği tanımlamasına yardımcı olmayı amaçlamaktadır. OpenAI’nin yardım sitesinde yayınlanan bir örnekte gösterilmektedir.

Ancak OpenAI, yardım sitesinde şunu kolaylıkla kabul ediyor: “C2PA gibi meta veriler, menşe sorunlarını çözecek sihirli bir değnek değil. Yanlışlıkla veya kasıtlı olarak kolayca çıkarılabilir. Örneğin, günümüzde çoğu sosyal medya platformu, yüklenen görsellerden meta verileri kaldırmaktadır ve ekran görüntüsü alma gibi eylemler de meta verileri kaldırabilmektedir. Bu nedenle, bu meta veriyi içermeyen bir görüntü ChatGPT veya bizim API’mızla oluşturulmuş veya oluşturulmamış olabilir.“

Ayrıca, bu meta veriler sıradan bir gözlemci tarafından hemen görülemez; bunun yerine, onu görebilmek için dosya açıklamasını genişletmeleri veya açmaları gerekir.

Buna karşılık Meta, bugün erken saatlerde platform çapındaki AI etiketleme şemasının bir önizlemesini gösterdi; bu, halka açık olacak ve herhangi bir izleyiciye bir görüntünün AI araçlarıyla yapıldığının anında göstergesi olarak parıldayan bir emoji içerecek.

Ancak özelliğin “önümüzdeki aylara” kadar yayılmaya başlamayacağını ve hala tasarlanmakta olduğunu söyledi. Bu da C2PA’nın yanı sıra başka bir standarda da dayanır. Uluslararası Basın Telekomünikasyon Konseyi’nden (IPTC) IPTC Fotoğraf Meta Veri Standardı.