Google, yapay zeka görselleri için özel filigran geliştirdi

DeepSilence · 31 Ağustos 2023, 13:28

Google DeepMind, yapay zeka tarafından üretilen görüntüler için SynthID filigran aracını duyurdu. SynthID filigranları insanlar tarafından görülemeyecek ancak tespit araçları bunu tespit edebilecek.

Google DeepMind, görüntülerin yapay zeka ile üretilip üretilmediğini gösteren yeni bir filigran aracı geliştirdi. SynthID adı verilen araç, başlangıçta yalnızca Google Cloud'un makine öğrenimi platformu Vertex'te barındırılan Google'ın AI görüntü oluşturucusu Imagen kullanıcıları tarafından kullanılabilecek.

Google DeepMind SynthID

Imagen kullanıcıları istedikleri görüntü oluşturabilecek ve ardından filigran ekleyip eklemeyeceklerini seçebilecekler. Bunun, insanların yapay zeka tarafından üretilen içeriğin gerçekmiş gibi gösterildiğini anlamalarına ya da telif haklarının korunmasına yardımcı olması umuluyor. Geçtiğimiz yıl, üretken yapay zeka modellerinin artan popülaritesi, sahte videolar ve fotoğrafları da beraberinde getirdi. Filigran -yapay zeka tarafından üretildiğini belirlemek için bir metin ya da görüntüye bir sinyal gizleme tekniği- bu tür zararları engellemek için önerilen en popüler fikirlerden biri haline geldi.

Geçtiğimiz ay Beyaz Saray’da OpenAI, Google ve Meta gibi önde gelen yapay zeka şirketleri bir araya gelerek yapay zeka tarafından üretilen içeriğin kötüye kullanılmasıyla mücadele etmek amacıyla filigran araçları geliştirmek için gönüllü olarak taahhütlerde bulunmuşlardı. Google'ın Mayıs ayındaki yıllık I/O konferansında CEO Sundar Pichai, şirketin modellerini en başından itibaren filigran ve diğer teknikleri içerecek şekilde oluşturduğunu söylemişti. Google DeepMind şimdi böyle bir aracı kullanıma alan ilk şirket oldu.

Normal filigranlar gibi değil

Normalde filigranlar, görüntülerin üzerine görünür kaplamalar ya da meta verilerine bilgi eklenerek filigranlanır. Ancak Google DeepMind araştırma başkan yardımcısı Pushmeet Kohli, bu yöntemin "kırılgan" olduğunu ve görüntüler kırpıldığında, yeniden boyutlandırıldığında veya düzenlendiğinde filigranın kaybolabileceğini belirtiyor.

SynthID, iki sinir ağı kullanılarak oluşturuluyor. Biri orijinal görüntüyü alıyor ve onunla neredeyse aynı görünen, ancak bazı pikselleri ince bir şekilde değiştirilmiş başka bir görüntü üretiyor. Bu, insan gözüyle görülemeyen gömülü bir desen yaratıyor. İkinci sinir ağı bu deseni tespit edebiliyor ve görüntüde filigran olup olmadığını söylüyor. SynthID ayrıca görüntü kırpılsa, düzenlense veya yeniden boyutlandırılsa bile tespit edilebilecek.

Öte yandan benzer teknikler halihazırda mevcut ve açık kaynaklı yapay zeka görüntü üreticisi Stable Diffusion'da kullanılıyor. Meta da filigranlar üzerine araştırmalar yürütüyor, ancak henüz halka açık bir filigranlama aracı piyasaya sürülmüş değil. Öte yandan Kohli, filigranların nihai çözüm olmadığını ve genellikle bunların kırıldıklarını belirtiyor. DeepMind, bu aracı şimdilik test ediyor ve açıklarını bularak kapatmayı hedefliyor.

[Sadece kayıtlı ve aktif kullanıcılar bağlantıları görebilir. ]

31 Ağustos 2023, 13:28	#1
Çevrimdışı DeepSilence Banlı Üye	Google, yapay zeka görselleri için özel filigran geliştirdi Google, yapay zeka görselleri için özel filigran geliştirdi Www.TrendForum.Net Google DeepMind, yapay zeka tarafından üretilen görüntüler için SynthID filigran aracını duyurdu. SynthID filigranları insanlar tarafından görülemeyecek ancak tespit araçları bunu tespit edebilecek. Google DeepMind, görüntülerin yapay zeka ile üretilip üretilmediğini gösteren yeni bir filigran aracı geliştirdi. SynthID adı verilen araç, başlangıçta yalnızca Google Cloud'un makine öğrenimi platformu Vertex'te barındırılan Google'ın AI görüntü oluşturucusu Imagen kullanıcıları tarafından kullanılabilecek. Google DeepMind SynthID Imagen kullanıcıları istedikleri görüntü oluşturabilecek ve ardından filigran ekleyip eklemeyeceklerini seçebilecekler. Bunun, insanların yapay zeka tarafından üretilen içeriğin gerçekmiş gibi gösterildiğini anlamalarına ya da telif haklarının korunmasına yardımcı olması umuluyor. Geçtiğimiz yıl, üretken yapay zeka modellerinin artan popülaritesi, sahte videolar ve fotoğrafları da beraberinde getirdi. Filigran -yapay zeka tarafından üretildiğini belirlemek için bir metin ya da görüntüye bir sinyal gizleme tekniği- bu tür zararları engellemek için önerilen en popüler fikirlerden biri haline geldi. Geçtiğimiz ay Beyaz Saray’da OpenAI, Google ve Meta gibi önde gelen yapay zeka şirketleri bir araya gelerek yapay zeka tarafından üretilen içeriğin kötüye kullanılmasıyla mücadele etmek amacıyla filigran araçları geliştirmek için gönüllü olarak taahhütlerde bulunmuşlardı. Google'ın Mayıs ayındaki yıllık I/O konferansında CEO Sundar Pichai, şirketin modellerini en başından itibaren filigran ve diğer teknikleri içerecek şekilde oluşturduğunu söylemişti. Google DeepMind şimdi böyle bir aracı kullanıma alan ilk şirket oldu. Normal filigranlar gibi değil Normalde filigranlar, görüntülerin üzerine görünür kaplamalar ya da meta verilerine bilgi eklenerek filigranlanır. Ancak Google DeepMind araştırma başkan yardımcısı Pushmeet Kohli, bu yöntemin "kırılgan" olduğunu ve görüntüler kırpıldığında, yeniden boyutlandırıldığında veya düzenlendiğinde filigranın kaybolabileceğini belirtiyor. SynthID, iki sinir ağı kullanılarak oluşturuluyor. Biri orijinal görüntüyü alıyor ve onunla neredeyse aynı görünen, ancak bazı pikselleri ince bir şekilde değiştirilmiş başka bir görüntü üretiyor. Bu, insan gözüyle görülemeyen gömülü bir desen yaratıyor. İkinci sinir ağı bu deseni tespit edebiliyor ve görüntüde filigran olup olmadığını söylüyor. SynthID ayrıca görüntü kırpılsa, düzenlense veya yeniden boyutlandırılsa bile tespit edilebilecek. Öte yandan benzer teknikler halihazırda mevcut ve açık kaynaklı yapay zeka görüntü üreticisi Stable Diffusion'da kullanılıyor. Meta da filigranlar üzerine araştırmalar yürütüyor, ancak henüz halka açık bir filigranlama aracı piyasaya sürülmüş değil. Öte yandan Kohli, filigranların nihai çözüm olmadığını ve genellikle bunların kırıldıklarını belirtiyor. DeepMind, bu aracı şimdilik test ediyor ve açıklarını bularak kapatmayı hedefliyor. [Sadece kayıtlı ve aktif kullanıcılar bağlantıları görebilir. ]

Benzer Konular
Konu	Konuyu Başlatan	Forum	Yanıtlar	Son Mesaj
ChatGPT görse kıskanır: Google Chrome’a yapay zeka dopingi!	DeepSilence	Teknoloji Trend Haberleri	0	16 Ağustos 2023 11:18
Google’dan Harikalar Yaratan Yeni Yapay Zeka Aracı: Imagen Editor	KoJiRo	Teknoloji Trend Haberleri	0	11 Haziran 2023 17:33
Google, Yapay Zeka Tarafından Oluşturulan Reklam İçeriklerine İzin Verecek	KoJiRo	Teknoloji Trend Haberleri	0	20 Nisan 2023 17:09
Google, yapay zeka destekli yeni bir arama motoru geliştiriyor	DeepSilence	İnternet Tarayıcıları	0	17 Nisan 2023 12:56
Google, Arama Sonuçlarına Sohbete Dayalı Yapay Zeka Ekleyecek	KoJiRo	Teknoloji Trend Haberleri	0	08 Nisan 2023 20:22

Şu anda bu konuyu görüntüleyen etkin kullanıcılar: 1 (0 üye ve 1 konuk)

Google, yapay zeka görselleri için özel filigran geliştirdi

Bilim dünyasından en son haberlere buradan ulaşabilirsiniz.