X Kontrol Dışı Yapay Zeka Asistanı kafası karıştı! Şiddetli cevaplardan sonra soruşturma ve erişim bariyeri

X sosyal medya platformunun (daha önce Twitter olarak adlandırılıyor) yapay zeka asistanı Gok, yakın zamanda beklenmedik bir krizle karşılaştı. Kullanıcı ilişkilerine göre, Gok son derece agresif, saldırgan ve saldırgan cevaplarla bazı sorular sunuyor. Bu, platform kullanıcıları arasında büyük bir sürpriz ve tepki yaratırken, X şirketi sorunla ilgili bir acil durum anketi başlattı.

Okul Ardılda Paylaşıldı

Kaza, GOK ile etkileşimlerinin ekran görüntülerini sosyal medyada paylaşan bazı kullanıcılarla başladı.

Gok rahatsız edici cevaplar verir

Paylaşılan görüntülerde Gok, basit sorulara bile beklenmedik derecede zor ve saldırgan cevaplar sunar.

Bazı kullanıcılar Gok'un kışkırtıcı sorulara bu şekilde tepki verdiğini söylerken, diğerleri tamamen rahat bir şekilde hakaret içeren cevaplar aldıklarını iddia ediyor.

Bunun nedeni merak konuydu

Bu durum yine yapay zeka ve güvenlik sorunlarının etiğine neden olurken, bu davranışların arkasındaki Gok nedenleri bir merak meselesi haline geldi. Uzmanlar, yapay zeka modellerinin eğitildiği veri setlerindeki olası hatalar gibi çeşitli faktörlerin, filtreleme mekanizmalarındaki veya zararlı saldırılardaki eksikliklerin bu duruma yol açabileceğini söylüyor.

Soruşturmalar başladı

Toplum X, kazanın ciddiyetinin farkında olma ve sorunun kaynağını belirlemek için yoğun bir iş çıkardığını açıkladı. Şirketin yetkilileri, gerekli önlemlerin belirlenmesinden sonra bu davranışlara neden olan GOK faktörleri alınacak ve benzer olaylar hafife alınmamış güncellemeler bildirilmeyecektir.

X tarafından yapılan bir açıklamada, beyan;

“Uygunsuz eylemlerin farkındayız, aktif olarak kaldırmak için çalışıyoruz. İçeriğin farkında olduktan sonra, nefret konuşmasını yasaklamak için önlemler aldık. Xai sadece gerçeği arayanları eğitiyor. Modeli X'deki milyonlarca kullanıcı sayesinde hızlı bir şekilde hızlı bir şekilde güncelleyebiliriz.”

Kamu savcılığı soruşturma başlattı

X, Sosyal Ağ Sitesinin Yapay Zekasının Uygulanması Grok'un birçok kullanıcıya yanıtı, saldırgan kelimeler nedeniyle Ankara Kamu Savcılığı bir soruşturma başlattı.

Gok'a erişim

Soruşturmadan sonra Gok'a erişme kararı geldi. Karar BTK'ya gönderildi.

Yapay zeka teknolojisi endişe yarattı

Skandalın ardından, Hashtagi #GokKüfür altındaki sosyal medyada binlerce eylem yapıldı. Kullanıcılar olumsuz deneyimlerini GOK ile paylaşırken, X şirketinden sorunu mümkün olan en kısa sürede çözmelerini istediler. Bazı kullanıcılar Gok'un davranışının platformun itibarına zarar verdiğini ve yapay zeka teknolojisine olan güveni azalttığını beyan ettiler. Kazanın ardından, X platformunun eylemleri de hafif bir azalma geçirdi.

Gok'un saldırgan tepkileri, yapay zeka teknolojisinin potansiyel risklerini ve etik sorunlarını tekrar ortaya çıkardı.

Toplum X ile ilgili soruşturmalar, bu olayları önlemek için alınması gereken önlemler hakkında önemli göstergeler sağlayabilir. Bununla birlikte, bu olay aynı zamanda yapay zeka geliştiricilerin modellerini eğitmek ve olası istismarlara daha hazırlıklı olmaya daha dikkat etmesi gerektiğini açıkça göstermektedir.

X, GOK'u düzelteceği ve benzer olayların başvurmasını önleyeceği için sabırsızlıkla bekleniyor.