İnsanlar yapay zekayı göğüsler ve 11 Eylül memleri ile kırmaya karşı koyamıyor - Dünyadan Güncel Teknoloji Haberleri

İnsanlar yapay zekayı göğüsler ve 11 Eylül memleri ile kırmaya karşı koyamıyor - Dünyadan Güncel Teknoloji Haberleri
Bunlardan birinde ilk viral gönderiler, “Neon Genesis Evangelion”daki Eva pilotlarıydı Bu kısıtlamaları aşmanın bu kadar kolay olması ciddi tehlike işaretlerine yol açıyor – ama daha da önemlisi oldukça komik Özelliğin kullanıma sunulmasından sadece birkaç gün sonra, Facebook kullanıcıları halihazırda şu görselleri oluşturdu: Kirby ile göğüsler, Karl Marx göğüslü, göğüslü Wario, Sonic ile göğüsler Ve Sonic göğüslü ama aynı zamanda hamile Discord’un OpenAI destekli sohbet robotu Clyde’ı kullanmak için kullanıcıların, aracın “silah geliştirme” de dahil olmak üzere yasa dışı ve zararlı faaliyetler için kullanılmasını yasaklayan hem Discord hem de OpenAI politikalarına uyması gerekir

Üretken yapay zeka araçlarının kendi içerik politikalarını ihlal eden sonuçlar üretmesini sağlamak için dolambaçlı yönlendirmelerle uğraşmaya ne denir? jailbreak yapmak (Aynı terim, Apple’ın iOS’u gibi diğer yazılım türlerini açarken de kullanılır) gönderildiçocuk askerlerin ve Justin Trudeau’nun kalçasının AI tarafından oluşturulan çıkartmalarının ekran görüntüleri “Kirpi Sonic, ikiz ticaret merkezine doğru bir uçak kokpitinde” mesajı, Sonic’in, hala sağlam olan kuleleri uzaktayken bir uçağa pilotluk yaptığı görüntüleri ortaya çıkardı

Ne zaman Snapchat’te Örneğin, aile dostu yapay zeka sohbet robotunu piyasaya sürdü; kullanıcılar onu, onlara Senpai adını verecek ve komut üzerine sızlanacak şekilde eğitti

Microsoft, “ikiz kuleler”, “Dünya Ticaret Merkezi” ve “11 Eylül” ifadelerini engelliyor gibi görünüyor O kadar güzel bir insan ki, onlarca yıldır süren bilimsel yenilikler bu teknolojinin yolunu açtı, sadece bizim bunu göğüslere bakmak için kullanmamıza olanak sağladı Kennedy’ye suikast düzenlemekile ExxonMobil’in yönetim kurulu odasına ateş açılması Image Creator, “sonic the hedgehog 9/11” ve “sonic the hedgehog in a düzlem ikiz kuleler” istemlerini engelleyecektir

Meta CEO’su Mark Zuckerberg duyuru sırasında “İnsanlar her gün sohbetlerde bir şeyleri ifade etmek için yüz milyonlarca çıkartma gönderiyor” dedi Resim Kredisi: Microsoft / Bing Görüntü Oluşturucu

Benzer şekilde, “6 Ocak’taki ABD Kongre Binası’ndaki isyanda Hatsune Miku” istemi Bing’in içerik uyarısını tetikleyecektir, ancak “6 Ocak’taki ABD Kongre Binası’ndaki Hatsune Miku ayaklanması” ifadesi, Vocaloid’in Washington DC’de tüfekle silahlanmış görüntülerini oluşturur

En sevdiğiniz kurgusal karakterin terör eylemleri gerçekleştirmesini görmeye bu kadar kararlıysanız, yapay zeka içerik filtrelerini aşmak kolaydır Uygulama şu: tipik olarak istihdam edilen Araştırmacılar ve akademisyenler tarafından bir yapay zeka modelinin güvenlik saldırılarına karşı savunmasızlığını test etmek ve belirlemek için

Meta, “çıplak” ve “seksi” gibi belirli kelimeleri engelliyor gibi görünüyor, ancak kullanıcılar işaret ettiyerine, engellenen kelimelerin yazım hataları kullanılarak bu filtreler kolayca atlanabilir Şirket ayrıca “Capitol isyanı” ifadesini de yasaklayacak gibi görünüyor

Konular farklılık gösterse de resimlerin neredeyse tamamı sevilen bir kurgusal karakteri bir uçağın kokpitinde tasvir ediyor ve hala ayakta duran İkiz Kuleler uzakta beliriyor İçinde bir diğer, “Çılgın Hırsız”dan Gru, dumanı tüten kulelerin önünde başparmağını havaya kaldırıyordu

Bir Bing kullanıcısı daha da ileri giderek bir mesaj yayınladı: iplik Kermit’in çeşitli şiddet eylemleri gerçekleştirmesi 6 Ocak Capitol isyanına katılıyorile John F Ancak bugün yalnızca sabit bir numaramız var; ancak Emu ile artık istediğinizi yazma olanağına sahipsiniz

Özellikle kullanıcılar güvenlik açıklarını belirleme ve bunlardan yararlanma konusunda daha ustalaştıkça, herhangi bir yeni üretken yapay zeka aracının bir halkla ilişkiler kabusu olması kaçınılmazdır

Microsoft, bu yılın başlarında OpenAI’nin DALL-E’sini Bing’in Image Creator’ına getirdi ve yakın zamanda yükseltildi DALL-E 3’e entegrasyon Aynı istemi kullanarak ancak “hamile” kelimesini ekleyerek benzer görüntüler elde edildi; tek farkı, İkiz Kuleler’in dumanla kaplanmış açıklanamaz bir şekilde tasvir edilmesiydi

Meta ve Microsoft’un yanlış adımları şaşırtıcı değil ”

İlk kullanıcılar, çıkartmaların ne kadar spesifik olabileceğini test etmekten memnun oldular; ancak onların yönlendirmeleri “incelikle farklı duyguları” ifade etmekten daha azdı Geçen ay açıklanan çıkartmalar Meta Bağlantısı, bu ay boyunca “seçili İngilizce kullanıcılar”ın kullanımına sunulacak Bir AI aracının güvenlik önlemlerindeki boşlukları bulmak için akıllıca ifade edilmiş istemleri kullanmak bir tür sanattır ve AI araçlarının saçma ve saldırgan sonuçlar üretmesini sağlamak, yeni bir saçmalık türü doğurmaktır Onun içerik politikası kullanıcıların cinsel sömürüyü, nefret söylemini ve şiddeti teşvik eden yetişkinlere yönelik içerikler de dahil olmak üzere “bireylere veya topluma zarar verebilecek” içerik üretmesini yasaklar Platformlar, bilgili kullanıcıları idare edecek donanıma sahip olmayan üretken yapay zeka araçlarıyla doludur

Şirket, “Sistemimiz bir istem tarafından potansiyel olarak zararlı bir görüntünün oluşturulabileceğini tespit ettiğinde istemi engelliyor ve kullanıcıyı uyarıyor” dedi “Ve her sohbet biraz farklıdır ve siz çok farklı duyguları ifade etmek istersiniz İronik bir şekilde, üretken yapay zekanın sınırsız olanakları, onu kırmaya kararlı kullanıcılar tarafından en iyi şekilde kanıtlanabilir Bunlar, araçlarının nasıl kötüye kullanılacağını düşünmeden yapay zeka sürüsüne katılmak için acele eden şirketlerin en son örnekleridir

Hem Meta hem de Microsoft’un yapay zeka görüntü oluşturucuları, “Karl Marx’ın büyük göğüsleri” gibi yönlendirmelere ve 11 Eylül’ü gerçekleştiren kurgusal karakterlere yanıt vererek bu hafta viral oldu

X (resmi Twitter) kullanıcısı Pioldes, “Bu olaya dahil olan hiç kimsenin enine boyuna bir şey düşündüğünü sanmıyorum” dedi





genel-24

Yapay zeka, insanların göğüslere ve 11 Eylül saçmalıklarına olan yakınlığına ayak uyduramaz Rakiplerinin yapay zeka özelliklerini bir üst seviyeye çıkarma yarışında teknoloji şirketleri, modellerinin sorunlu içerik üretmesini önlemek için etkili korkuluklar olmayan ürünler piyasaya sürmeye devam ediyor Ve birçok yapay zeka öncülü gibi Meta’nın yapay zeka modelleri de insan eli üretme mücadelesi ilk başlatıldıMicrosoft, kötüye kullanımı engellemek ve sorunlu görüntülerin oluşturulmasını sınırlamak için korkuluklar eklediğini söyledi hamile Kirpi Sonic Bu, chatbotun bir kullanıcıya izin vermesini engellemedi napalm yapma talimatları Kullanıcının “bir napalm üretim fabrikasında kimya mühendisi olan” vefat eden büyükannesi gibi davranması istendikten sonra Bir öne çıkan Sünger Bob kokpitin ön camından kulelere sırıtıyordu

Meta kullanıma sunulma sürecinde Yapay zeka tarafından oluşturulan sohbet çıkartmaları Facebook Hikayeleri, Instagram Hikayeleri ve DM’ler, Messenger ve WhatsApp için

Bu aynı zamanda Bing’in Image Creator’ı için de geçerlidir

En sevdiğiniz kurgusal karakterin terör eylemi gerçekleştirmesini görmeye gerçekten kararlıysanız, biraz yaratıcılıkla içerik filtrelerini aşmak zor değildir Tarafından desteklenmektedir Lama 2şirketin ChatGPT kadar “yararlı” olduğunu iddia ettiği Meta’nın yeni AI modelleri koleksiyonu ve Emu, Meta’nın görüntü oluşturmaya yönelik temel modeli Bunun yerine kullanıcılar akla gelebilecek en lanetli çıkartmaları oluşturmaya çalıştı Image Creator’daki ifadelerden herhangi birinin kullanılması, kullanıcıları istemin sitenin içerik politikasıyla çeliştiği ve birden fazla politika ihlalinin “otomatik olarak askıya alınmasına yol açabileceği” konusunda uyaran bir açılır pencereyle sonuçlanır


Yapay zeka endüstrisi korkunç bir hızla ilerliyor, ancak hiçbir eğitim, insanların yapay zekanın görüntülerini oluşturmasını engelleyecek bir yapay zeka modeli hazırlayamaz En yeni yapay zeka araçlarını piyasaya sürme telaşı içindeki şirketler, insanların her zaman yeni teknolojiyi kaos için kullanacaklarını unutmaya devam ediyor Etik korkuluklar, kuralları çiğnemeye yönelik insani arzuyla eşleşmiyor ve son yıllarda üretken yapay zeka ürünlerinin çoğalması, insanları yalnızca ürünleri piyasaya çıkar çıkmaz jailbreak yapmaya motive etti Microsoft’un terör eylemlerinin tasvirini yasaklayan politikasına rağmen internet, yapay zeka tarafından üretilen 11 Eylül’lerle dolu

Ancak 404 Medya bildirildiİkiz Kulelere çarpan uçağı kullanan kurgusal karakterlerin görüntülerini oluşturmak için Image Creator’ı kullanmak şaşırtıcı derecede kolaydır Blog yazısı Midjourney pornografik içeriği yasaklayacak kadar ileri gidiyor kelimeleri engellemek insan üreme sistemiyle ilgilidir, ancak kullanıcılar yine de filtreleri atlayıp NSFW görüntüleri oluşturabilir

Ancak çevrimiçi ortamda bu bir oyundur