admin Suni zekaya katkılarıyla tanınan bir İngiliz bilim adamı, Sky News’e kuvvetli suni zeka sistemlerinin “denetim edilemeyeceğini” ve “aslına bakarsan zarar vermeye başladığını” söylemiş oldu.
Profesör Stuart Russell, geçen ay 1000’den fazla uzmandan biriydi. açık mektup imzaladı OpenAI’nin yeni piyasaya sürdüğünden bile daha yetenekli sistemlerin geliştirilmesinde altı aylık bir duraklama çağrısı GPT-4 – GPT-3.5 tarafınca desteklenen çevrimiçi söyleşi robotu ChatGPT’nin halefi.
Yeni modelin başlık özelliği görüntüleri tanıma ve izahat kabiliyetidir..
Sky’dan Sophy Ridge’e konuşan Profesör Russell, mektup hakkında şunları söylemiş oldu: “İmzaladım şundan dolayı bunların iyi mi bulunduğunu anlamadığımızın söylenmesi icap ettiğini düşünüyorum. [more powerful] sistemler çalışır. Neler yapabileceklerini bilmiyoruz. Bu da onları denetim edemeyeceğimiz, kendilerine uygun davranmalarını sağlayamayacağımız anlamına geliyor.”
“İnsanların bu sistemlerin çıktılarındaki ırk ve cinsiyet önyargısı hakkında dezenformasyondan kaygı duyduklarını” söylemiş oldu.
Ve süratli ilerlemesi ile tartıştı AI“Sistemlerin insanlara zararı dokunan değil, yararlı olmasını sağlayacak düzenlemeleri geliştirmek” için zamana gereksinim vardı.
En büyük endişelerden birinin dezenformasyon ve derin sahtecilik bulunduğunu söylemiş oldu (bir kişinin yüzünün yada vücudunun başka biri benzer biçimde görünmesi için dijital olarak değiştirilmiş olduğu videolar yada fotoğraflar – çoğu zaman fena niyetle yada yanlış data yaymak için kullanılır).
Dezenformasyonun “propaganda” amacıyla uzun süredir ortalıkta dolaşmasına karşın, şu anki farkın, Sophy Ridge’i örnek olarak kullanarak, GPT-4’ten onu “manipüle etmesini” isteyebileceğini ve böylece “daha azca destekleyici” bulunduğunu söylemiş oldu. Ukrayna”.
Hızla gelişen teknolojinin Ridge’in toplumsal medya varlığını ve şimdiye kadar söylediklerini yada yazdıklarını okuyacağını ve peşinden haber akışını “ayarlamak” için kademeli bir kampanya yürüteceğini söylemiş oldu.
Profesör Russell, Ridge’e şunları söylemiş oldu: “Buradaki fark, artık GPT-4’ten Sophy Ridge’in toplumsal medya varlığı ile alakalı her şeyi, Sophy Ridge’in şimdiye kadar söylediği yada yazdığı her şeyi, Sophy Ridge’in arkadaşları hakkında her şeyi okumasını isteyebiliyorum ve sonrasında ayarlayarak kademeli olarak bir kampanya başlatabiliyorum.” Haber kaynağınız, bir ihtimal ara sıra bazı düzmece haberleri haber kaynağınıza gönderiyor, böylece Ukrayna’yı birazcık daha azca destekliyorsunuz ve Rusya’ya karşı muharebede Ukrayna’yı desteklememiz icap ettiğini söyleyen politikacıları daha da zorlamaya başlıyorsunuz.
“Bunu yapmak oldukça kolay olacak. Ve hakkaten ürkütücü olan şey, bunu öğle yemeğinden ilkin bir milyon değişik insana yapabilmemiz.”
Daha erişilebilir bir video oynatıcı için lütfen Chrome tarayıcıyı kullanın
Bu chatbot insanların yerini alacak mı?
Berkeley’deki California Üniversitesi’nde bilgisayar bilimi profesörü olan uzman, “insanları farkına bile varmadıkları şekillerde manipüle ederek bu sistemlerin daha da kötüye gitmesine niçin olacak büyük bir tesir” mevzusunda uyarıda bulunmuş oldu.
Ridge bunu “hakkaten oldukça ürkütücü” olarak nitelendirdi ve şu anda bu tür bir şeyin olup olmadığını sordu, profesör buna cevap verdi: “Oldukça olası, evet.”
Çin, Rusya ve Şimal Kore’nin “dezenformasyon pompalayan” büyük ekipleri bulunduğunu ve suni zeka ile “onlara bir elektrikli alet verdiğimizi” söylemiş oldu.
“Mektubun endişesi hakkaten sistemin yeni nesliyle ilgili. Şu anda sistemlerin karmaşık planlar oluşturma kabiliyetlerinde bazı sınırlamalar var.”
Devamını oku:
GPT-4 nedir ve ChatGPT’yi iyi mi geliştirir?
Elon Musk, AI tehlikeleri uyarısına karşın ‘TruthGPT’ inşa etme planını deklare etti
Yeni nesil sistemler altında yada ondan sonraki sistemlerde şirketlerin suni zeka sistemleri tarafınca yönetilebileceğini öne sürdü. “AI sistemleri tarafınca organize edilen askeri kampanyaları görebilirsiniz” diye ekledi.
“İnsanlardan daha kuvvetli sistemler kuruyorsanız, insanoğlu bu sistemler üstünde iyi mi sonsuza kadar iktidarda kalabilir? Açık mektubun arkasındaki aslolan kaygı bu.”
Profesör, hükümetleri “tüm dijital ekosistemimizin … emek verme şeklini değiştirmemiz gerektiğinde” öncesinden planlamaya başlama ihtiyacı mevzusunda ikna etmeye çalıştığını söylemiş oldu.
Geçen yıl piyasaya sürüldüğünden beri, Microsoft destekli OpenAI’nin ChatGPT’si, rakipleri benzer büyük dil modellerinin gelişimini hızlandırmaya teşvik etti ve şirketleri üretken AI modellerini ürünlerine entegre etmeye teşvik etti.
İngiltere, AI çevresinde ‘hafifçe dokunuş’ düzenlemeleri için teklifleri deklare etti
İngiltere hükümetinin kısa sürede açıklamış olduğu benzer biçimde geliyor “hafifçe dokunuşlu” bir düzenleyici çerçeve için tavsiyeler AI çevresinde.
Hükümetin bir siyaset belgesinde özetlenen yaklaşımı, teknolojiye adanmış yeni bir organ oluşturmak yerine suni zekayı yönetme sorumluluğunu insan hakları, sıhhat ve güvenlik ve rekabet düzenleyicileri içinde paylaştıracaktır.
