Microsoft şirketi yapay zeka modellerinde halüsinasyon sorunu olarak adlandırılan problemi her an çözebilir.
Microsoft Yapay Zekanın En Büyük Sorununu Çözmek Üzere
Microsoft, yapay zeka modellerinin ürettiği hatalı içeriklere karşı bir önlem olarak yeni bir düzeltme aracı tasarladı. Kısaca ifade edecek olursak, Microsoft, bir yapay zekayı diğer bir yapay zekanın denetimi için kullanarak, yapay zekaların yanıltıcı veya sahte içerik üretme sorununu çözmeyi amaçlamaktadır.
Bu mesele, genel anlamda yapay zeka halüsinasyonları terimiyle tanımlanmaktadır. Microsoft, bu araçla sorunlara yenilikçi çözümler sunacak. Son yıllarda generatif yapay zeka (Gen AI) önemli bir ivme kazandı. Bununla birlikte, bazı yapay zeka destekli sohbet botlarının yanlış bilgi üretme eğilimi taşıdığı görülmektedir.
Microsoft, bu hataların önlenmesi amacıyla yeni bir ‘Düzeltme’ (Correction) özelliğini devreye alıyor. Bu özellik, şirketin halihazırda sahip olduğu ‘Groundedness Detection’ (Dayanaklılık Tespiti) sisteminin üzerine inşa edilmiştir.
Microsoft Azure AI Güvenlik API‘si Kullanıcılara Sunulacak
Esasen bu yeni araç, yapay zeka tarafından üretilen metni, kullanıcının sağladığı destekleyici belge ile karşılaştırarak doğrulama sürecini gerçekleştirmektedir. Microsoft’un bu yeni düzeltme aracı, Microsoft Azure AI Güvenlik API‘si çerçevesinde kullanıcıların hizmetine sunulacaktır.
OpenAI’nin GPT-4o ve Meta’nın Llama gibi generatif yapay zeka platformlarından faydalanan kullanıcılar, bu yenilikçi özelliği yakın bir zamanda deneyimleme şansını elde edecekler. Düzeltme işlevi, muhtemel hatalı içerikleri tespit etmeye yönelik bir çaba gösterecek ve sonrasında bu içerikleri bir doğruluk kaynağıyla mukayese ederek doğrulama sürecini gerçekleştirecektir.
Microsoft, yapay zeka halüsinasyonlarını anlık olarak çözümleyebilecek bir düzeltme aracı sunarken, eşzamanlı olarak ‘Değerlendirmeler’ adı verilen yeni bir araç da geliştirmektedir. Bu, yapay zekanın içerik üretimi öncesinde belirli bir gizli çıkarım katmanı vasıtasıyla risk analizini gerçekleştirmesine olanak tanımaktadır.
Microsoft 2 Yeni Araçla En Önemli 2 Sorunu Çözmek İstiyor
Yeni araç, hassas bilgilerin güvenli ve gizli bir şekilde korunmasını sağlamak amacıyla tasarlanmıştır. Bu araç, yapay zekanın bilgi üretimi esnasında olası gizlilik ihlallerini önlemeye yönelik önemli bir katkı sunabilir. Microsoft, bu iki yeni araçla yapay zeka alanındaki en önemli iki sorunu çözmeyi amaçlamaktadır.