Canlı sohbete katılmak, haber, uzman görüşü ve piyasa sinyallerini anında almak için TELEGRAM, TWITTER, FACEBOOK, INSTAGRAM’dan bizi takip edin.
Geçtiğimiz Cuma günü, ABD Sosyal Güvenlik Kurumu (SSA), çalışanlara yardımcı olmak amacıyla “Ajans Destek Asistanı” (Agency Support Companion) adında ChatGPT tarzı bir sohbet botu kullanıma sundu. Ancak, yapay zekâ destekli bu uygulama çalışanlar tarafından “başarısız ve işlevsiz” olarak nitelendirildi. Sistemin temel amaçlarından biri olan verimliliği artırma ve iş yükünü hafifletme hedefi, yerini kafa karışıklığına ve güvensizliğe bıraktı.
Kurum içi kaynaklara göre, chatbot’un lansmanı bir eğitim videosu ile desteklendi. Ancak bu video, amatör animasyonları ve önemli güvenlik uyarılarını içermemesi nedeniyle alay konusu oldu. En kritik eksikliklerden biri, çalışanlara kişisel verilerin sisteme yüklenmemesi gerektiğine dair herhangi bir uyarı yapılmamasıydı. Kurum daha sonra aceleyle bir e-posta göndererek bu eksikliği kabul etti ve çalışanları veri güvenliği konusunda uyardı.
Sistemi test eden çalışanlar, chatbot’un verdiği yanıtların genellikle belirsiz veya hatalı olduğunu belirtti. Wired’a konuşan bir personel, “Yanıtların çoğu çok yüzeysel ya da tamamen alakasızdı. Zaten kimse ciddiye almıyor,” ifadelerini kullandı. Görünüşe göre, uygulama günlük iş akışlarına entegre edilse de, fiilen pek kullanılmıyor.
Bu başarısız girişim, son dönemde federal kurumlarda yürütülen daha geniş kapsamlı bir “otomasyon” politikası bağlamında değerlendiriliyor. Elon Musk’un iç yapıda DOGE (Department of Government Efficiency) olarak bilinen organizasyonu, hükümet çalışanlarını azaltma ve yazılım tabanlı çözümlerle devlet işleyişini “AI-first” modele dönüştürme stratejisini sürdürüyor. Ancak, son gelişmeler bu yaklaşımın ne kadar tehlikeli olabileceğini gözler önüne serdi.
SSA’da yaşanan bir diğer skandalda, DOGE’nin otomatik sistemleri yaklaşık 4 milyon yaşayan vatandaşı yanlışlıkla “ölü” olarak işaretledi. Bu hatalar, birçok kişinin sosyal güvenlik ödemelerinin kesilmesine neden oldu. Sistemde “diriltme” işlemi, fiziksel ofislere gidip kimlik ibrazı yapılmasını ve üç-dört gün süren manuel işlemleri gerektiriyor.
Yapay zekâyla geliştirilen kodların kullanılacağı söylenen yeni SSA yazılım altyapısının birkaç ay içinde tamamen değiştirilmesi planlanıyor. Ancak uzmanlar, AI tarafından yazılan kodların yüksek hata oranı nedeniyle bu sürecin sıkı bir denetim gerektirdiğini belirtiyor. Aksi takdirde, halihazırdaki sorunlar daha büyük sistem arızalarına dönüşebilir.
Bu durum, Brezilya’daki Meu INSS uygulamasını anımsatıyor. Orada da yapay zekâ temelli sistemler, doğru başvuruları reddetmiş, özellikle kırsal kesimdeki düşük dijital okuryazarlığa sahip bireyler için büyük mağduriyet yaratmıştı. Benzer bir dijital bölünmenin ABD’de de yaşanması ihtimali, sosyal hizmetlerde otomasyonun sosyal eşitsizlikleri derinleştirme riski taşıdığını gösteriyor.
DOGE’nin bu stratejileri hakkında bazı eleştirmenler, gerçek amacın sistemi işlevsizleştirerek özelleştirme zeminini hazırlamak olduğunu öne sürüyor. Eğer bu iddialar doğruysa, yaşanan bu tür teknik aksaklıklar birer hata değil, stratejik hamleler olabilir.
Yapay zekâ temelli kamu hizmetleri hakkında senin düşüncen ne? Bu yaklaşım reform mu, risk mi?
