Gündem

OpenAI, “o3” modeli ile yapay zeka güvenliğinde yeni bir dönem başlatıyor

OpenAI, yapay zeka güvenliği alanında devrim yaratacak yeni bir model ailesini tanıttı: o3. Şirket, bu yeni modeli “deliberatif hizalama” adını verdiği bir güvenlik paradigmasıyla eğittiğini açıkladı. Amaç, yapay zekanın insan değerleriyle uyumlu yanıtlar üretmesini sağlamak.

Deliberatif hizalama: Yapay zeka ile etik uyum

“Deliberatif hizalama” yöntemi, yapay zeka modellerinin OpenAI’nin güvenlik politikalarını referans alarak düşünmesini sağlıyor. Bu, modellerin etik olmayan veya zararlı talepleri fark ederek uygun...