Red Hat, politikadan üretime yapay zeka güvenliğini ve yönetişimini otomatikleştirmek amacıyla asago topluluğunu hayata geçiriyor Marjinal Porter Novelli -

Bültene Ait Görseller

Bültene Ait Dosyalar

Red Hat, politikadan üretime yapay zeka güvenliğini ve yönetişimini otomatikleştirmek amacıyla asago topluluğunu hayata geçiriyor

Yeni işbirliği kapsamındaki açık kaynak projesi; yapay zeka politika gereksinimleri ile güvenli bir şekilde dağıtılan yapay zeka sistemleri arasındaki boşluğu kapatmak üzere Red Hat, Alquimia AI, Brave Software, EvalEval koalisyonu, IBM Research, Avusturya Disiplinlerarası Dönüşüm Üniversitesi, Microsoft, MIT Lincoln Laboratuvarı, Kuzey Karolina Eyalet Üniversitesi, NVIDIA ve The Alan Turing Enstitüsü'nü bir araya getiriyor.

Dünyanın lider açık kaynak çözümleri sağlayıcısı Red Hat, bugün yapay zeka yönetişim politikalarının ürüne hazır, güvenli şekilde dağıtılan yapay zeka sistemlerine dönüşme sürecini otomatikleştirmeyi amaçlayan açık kaynak topluluk projesi asago'nun kurulduğunu duyuruyor. asago; otomatik, denetlenebilir ve izlenebilir bir iş akışı oluşturmak amacıyla mühendislik ve uyumluluk ekiplerinin parçalı adımlarını, araçlarını ve gereksinimlerini birbirine bağlıyor. Proje; aylar veya yıllar yerine günler içinde inovasyonu besleyen daha güvenli ve üretime hazır yapay zeka sistemlerinin sunulmasına yardımcı olmayı amaçlıyor.

asago nedir?
Yapay Zeka Güvenliği ve Yönetişim Orkestrasyonu anlamına gelen AI Safety And Governance Orchestration sözcüklerinin baş harflerinden oluşan asago karmaşık kurumsal ve düzenleyici yapay zeka yönetişim politikalarını somut operasyonel kontrollere dönüştürmek için standartlaştırılmış bir açık kaynak platformu ve otomatik iş akışı kullanmayı planlıyor. Açık Güvenli Yapay Zeka İttifakı'nın (Open Secure AI Alliance) üyeleri olarak Red Hat ve NVIDIA'nın yürüttüğü çalışmaların üzerine inşa edilen proje, geliştirici esnekliğini dört ana aşamada operatör yönetişimiyle uyumlu hale getiriyor:

Risk haritalandırma: Çerçeve, yüklenen yapay zeka yönetişim politikalarını otomatik olarak okuyup yorumlayarak bir kurumun spesifik gereksinimlerini IBM AI Risk Atlas aracılığıyla NIST AI RMF, OWASP LLM Top 10, AB Yapay Zeka Yasası (EU AI Act) gibi yerleşik Yapay Zeka Risk çerçevelerine, ontolojilerine ve standartlarına doğrudan haritalandırıyor; böylece politika dilini uygulanabilir risk profillerine dönüştürüyor.
Risk değerlendirmesi: asago, yalnızca genel kıyaslamalara dayanmak yerine zararlı davranışları araştırarak, tespit edilen risklere özel otomatik güvenlik testleri için kullanım senaryolarına özgü senaryolar üretiyor ve yürütüyor.
Risk azaltma: Proje daha sonra, testlere dayalı güvenlik bariyerleri dahil olmak üzere risk azaltma yöntemleri önererek incelemeye hazır net bir gerekçe ve denetim izi oluşturuyor.
Üretim ortamına dağıtım: asago ardından önerilen kontrolleri, hibrit bulut ve Kubernetes dahil olmak üzere platformlar genelinde dağıtıma hazır konfigürasyonlara dönüştürerek orkestre ediyor ve manuel altyapı kodlaması ihtiyacını ortadan kaldırıyor.

Bu adımların her biri, tekil politika maddelerini doğrudan testlere ve çalışma zamanı kontrollerine bağlayarak kesintisiz bir denetim izi üretecek şekilde inşa ediliyor; böylece denetçilerin her bir eylemin tam olarak hangi riski ele aldığını görmelerine olanak tanınıyor. Bu durum, yapay zeka güvenliğini daha öngörülebilir ve yönetilen bir kurumsal altyapı hizmetine dönüştürmeye yardımcı oluyor.

asago neden önemli?
Soyut politika yönergelerini işlevsel yazılım konfigürasyonlarına dönüştürmek, yapay zeka inovasyonunu yavaşlatırken insan kaynaklı iletişim eksiklikleri ve yanlış anlaşılmalardan doğan riskleri de artırıyor. Uyumluluk yetkilileri titiz risk değerlendirmelerine ve doğrulanabilir kanıtlara ihtiyaç duyarken, platform mühendisleri standart DevOps ve GitOps iş akışları içinde sürdürülebilecek yapılandırılmış konfigürasyonlara ihtiyaç duyuyor. AB Yapay Zeka Yasası (EU AI Act) gibi geniş kapsamlı düzenlemeler yürürlüğe girdikçe kurumlar, ne aylarca süren manuel incelemelerle inovasyonu durdurma ne de uygun güvenlik bariyerlerinden yoksun, izlenmeyen gölge yapay zeka uygulamaları oluşturma riskini göze alabiliyor.

asago; uyumluluk ekiplerinin, veri bilimcilerinin ve altyapı yöneticilerinin üzerinde birleşebileceği tek ve açık bir standart sunarak bu uyuşmazlığı çözmeyi hedefliyor. Her paydaşı birinci sınıf kullanıcı olarak ele alan platform, manuel dönüştürmelerin yarattığı tutarsızlıklara yol açmadan otonom yapay zeka ajanları ve kurumsal büyük dil modelleri (LLM'ler) için güvenlik kontrolleri oluşturuyor.

Red Hat yetkililerinin değerlendirmeleri
"Kurumlar deneysel yapay zeka pilot çalışmalarından uzun süreli çalışan otonom ajanlara geçiş yaparken, net operasyonel güvenlik bariyerleri oluşturmak kritik bir altyapı gereksinimi haline geliyor," diyen Red Hat Yapay Zeka Mühendisliğinden Sorumlu Başkan Yardımcısı Steven Huels şöyle devam etti: "Lightwell gibi girişimler aracılığıyla açık kaynak tedarik zincirini yapay zeka kaynaklı güvenlik açıklarından korumak için çalışıyoruz. asago, bu çabayı tamamlıyor ve kurumsal politika tanımları ile canlı üretim ajanları arasındaki bağlantıyı otomatikleştirerek kurumsal yapay zeka için bir sonraki mantıklı adımı atıyor. Bu durum, kurumlara güvenilir yapay zekayı hibrit bulut genelinde ölçeklendirmek için ihtiyaç duydukları uçtan uca operasyonel güveni sağlıyor."

Red Hat Yapay Zeka Güvenliği ve Model Değerlendirme Mimarı Stuart Battersby ise, "asago projesi; teknoloji sektöründen, akademiden ve kamudan paydaşları bir araya getiren gerçek anlamda iş birlikli bir açık kaynak girişimidir. Yapay zeka güvenliği bakış açılarının maksimum düzeyde kapsanmasını sağlamak amacıyla, özellikle küresel ölçekteki farklı hukuki düzenlemelerden daha fazla iş ortağını topluluk odaklı bu çabaya katılmaya davet ediyoruz” dedi.

Öne çıkan detaylar

Politika karmaşıklığını aşan otomasyon: Manuel yorumlamaları ve özel betikleri entegre bir orkestrasyon iş akışıyla değiştirerek dağıtım süresini aylardan günlere indiriyor.
Tek bir denetim izi: Politika yetkililerine, BİT Yöneticilerine (CIO), yapay zeka geliştiricilerine, platform mühendislerine ve harici denetçilere tek ve birleşik bir izleme arayüzü üzerinden hizmet veriyor.
Açık kaynak ve topluluk yönetişimi: Daha geniş yapay zeka güvenliği ekosisteminde açık iş birliğini teşvik etmek amacıyla Apache Lisansı 2.0 kapsamında yayınlandı.
Altyapıdan bağımsız dağıtım: Kubernetes, Terraform ve Ansible için bildirimsel konfigürasyonlar üreterek kurumların birden fazla bulutta ve yerleşik ortamlarda tutarlı güvenlik duruşlarını korumalarına olanak tanıyor.

asago projesi; yapay zeka güvenliği araştırmaları, kurumsal yazılım mühendisliği, saldırgan makine öğrenimi (adversarial machine learning) ve mevzuata uyum alanlarındaki farklı uzmanlıkları entegre etmek amacıyla Red Hat, Brave Software, EvalEval koalisyonu, IBM Research, Avusturya Disiplinlerarası Dönüşüm Üniversitesi, Microsoft, MIT Lincoln Laboratuvarı, Kuzey Karolina Eyalet Üniversitesi, NVIDIA ve The Alan Turing Enstitüsü'nün de aralarında bulunduğu sektör liderlerini ve akademik kurumları çok paydaşlı bir çaba altında bir araya getiriyor.

Proje, sınıfının en iyisi açık araçlarla entegre olacak ve özellikle bu araçlar arasındaki operasyonel boşlukları hedefleyecek. Ayrıca, denetçilerin uyumluluğu kanıtlamak için ihtiyaç duyduğu kanıt tabanlarını kaydeden tam ve dağıtık izleme yetenekleri sunmayı amaçlayacak. Bu yaklaşım, canlı bir üretim ortamında aktif olan her bir kontrolün doğrudan kendi açık politika gerekçesine haritalandırılmasına olanak tanıyarak kurumsal yapay zeka portföyleri için kesintisiz doğrulama sağlıyor.

Red Hat iş ortakları ne diyor?
“Alquimia olarak aracı (agentic) platformumuzu net bir inanç üzerine inşa ettik: Yapay zeka çıkarımı; uyum süreçlerine sonradan eklenen bir detay değil, tasarım gereği kontrol edilebilir, açıklanabilir ve egemen olmalıdır,” diyen Alquimia AI İcra Kurulu Başkanı (CEO) Sebastián Cao sözlerini şöyle sürdürdü: “Asago bu inancı açık bir standarda dönüştürerek her kuruma, politikadan üretime hazır ve fiilen denetlenebilen bir yönetişime giden yolu açıyor. Bu, tam da sektörün ihtiyaç duyduğu türden bir altyapı. Nitekim gaussia.ai aracılığıyla, yapay zeka sistemlerinin gerçek dünyada tam olarak nasıl davrandığını ölçmeye yönelik açık ve bilimsel temellere dayanan metriklere katkıda bulunmamızın nedeni de budur. Asago gibi açık yönetişim çerçeveleri, yalnızca tedarikçilerin değil tüm toplulukların, pratikte güvenilir yapay zekanın nasıl göründüğü konusunda uzlaşmasını mümkün kılıyor.”

Brave Software İcra Kurulu Başkanı (CEO) ve Kurucu Ortağı Brendan Eich görüşleri şöyle belirtti: “Daha güvenli bir Web herkesin yararına olduğundan, yapay zeka güvenliği alanını ileriye taşımaya yardımcı olmak adına asago Topluluğu'na katılmaktan heyecan duyuyoruz. Brave her zaman açık kaynaklı olmuştur; yapay zeka araçlarının temelini gizlilik ve güvenliğin oluşturmasını sağlamak için asago ile iş birliği yapmayı sabırsızlıkla bekliyoruz. 120 milyondan fazla kullanıcı Brave ile geziniyor ve arama yapıyor; kullanıcıyı merkeze alan yaklaşımımızın, güçlü yapay zeka koruma bariyerleri konusundaki çıtayı yükseltmeye katkıda bulunacağını umuyoruz.”

“Gerçek dünya ortamlarında güven duyulabilmesi için yapay zekanın ölçülebilir testlere ve operasyonel kontrollere ihtiyacı var. IBM olarak, yönetişim çerçeveleri ile canlıya alınan yapay zeka sistemleri arasındaki boşluğu kapatmaya yardımcı olmak üzere uzmanlığımızı asago topluluğu aracılığıyla sunuyoruz,” açıklamasında bulunan IBM Research Yapay Zeka Platformu Başkan Yardımcısı Priya Nagpurkar şunları ekledi: “Bu adım, müşterilerimizin açık kaynak zafiyetlerini güvence altına almasına yardımcı olduğumuz Project Lightwell kapsamındaki geniş çaplı çalışmalarımızı tamamlıyor. Sanayiyi, akademiyi ve açık kaynak topluluklarını bir araya getiren asago, kurumsal yapay zeka benimsenmesi için daha şeffaf ve hesap verebilir bir temel oluşturulmasına katkıda bulunabilir.”

“Güvenilir yapay zeka geliştirmek iyi niyetlerden fazlasını gerektirir; uygulanabilir, doğrulanabilir ve sürdürülebilir bir şekilde yönetilebilir bir yönetişim şarttır,” değerlendirmesinde bulunan IT:U İnsan Hakları ve Teknoloji Profesörü Dr. Ben Wagner şöyle devam etti: “asago, üst düzey politikaları pratik mühendislik iş akışlarına dönüştürmeye yardımcı olmak amacıyla tasarlandı. IT:U olarak yapay zekanın hem teknik hem de organizasyonel yönetişimi konusunda güçlü bir birikime sahibiz; bu nedenle asago'ya katkıda bulunma fırsatı yakaladığımız için minnettarız. Bu projenin, kurumların güvenle inovasyon yapmasını sağlarken sorumlu yapay zeka geliştirmeyi pratik bir gerçeklik haline getirmesini umuyoruz.”

Microsoft Sorumlu Yapay Zeka Ürün Direktörü (CPO) Sarah Bird, “Yapay zeka güvenliği ve emniyetine dair en zorlu zorlukların birçoğu henüz çözülebilmiş değil ve tek bir kurumun tüm bunlarla tek başına mücadele etmesi mümkün değil. Açık ve geniş çapta benimsenen standartlar, ekosistem genelinde daha tutarlı bir yönetişim oluşturulmasına yardımcı olabilirken, topluluğun ortak yaratıcılığı en önemli sorunlardaki ilerlemeyi hızlandırabilir. asago Topluluğu'na katılmaktan ve güvenli, emniyetli ve insanların güvenine layık yapay zekalar inşa etmeye yardımcı olmak üzere diğer paydaşlarla birlikte çalışmaktan heyecan duyuyoruz.”

MIT Lincoln Laboratuvarı Yapay Zeka ve Siber Güvenlik Baş Bilim İnsanı Diane Staheli ise konu hakkında görüşlerini şöyle ifade etti: “Açık kaynaklı iş birliği, tüm ekosistem genelinde yapay zeka emniyetini ve güvenliğini ilerletmenin temelidir. “asago girişimi, yönetişim gereksinimleri ile operasyonel gerçeklik arasındaki kritik boşluğu kapatmak için disiplinler arası araştırmaları bünyesine katacaktır. Yapay zeka emniyeti ve güvenliği araçlarını geniş kitleler için erişilebilir kılmaya yönelik bu çabaya katkıda bulunmaktan heyecan duyuyoruz.”

“Yapay zeka sistemlerinin emniyetli ve güvenli olmasını sağlamak, bir politika sorunu olduğu kadar bir mühendislik sorunudur ve tek bir şirket, laboratuvar veya üniversite bunu tek başına çözemez,” değerlendirmesinde bulunan North Carolina State Üniversitesi Mühendislik Fakültesi Vekil Dekanı Veena Misra şunları söyledi: “NC State Mühendislik Fakültesi, ilk günden itibaren emniyetli ve üretime hazır yapay zeka sistemleri kurmaya hazır mezun olan mühendislerinin yanı sıra, yapay zeka güvenliği alanındaki derin araştırma gücünü de asago topluluğuna kazandırıyor. Bu tür ortaklıklar, insan kaynağımızı ve programlarımızı doğrudan sektörün bir sonraki ihtiyacına bağlama yöntemimizdir.”

“Open Secure AI Alliance (Açık Güvenli YZ İttifakı); açık modellerin, açık test ortamlarının ve açık araçların yapay zeka savunması için en güçlü temel olduğu ilkesi üzerine kuruldu — asago ise bu ilkeyi pratiğe döküyor,” diyen NVIDIA Yazılım Güvenliği Başkan Yardımcısı Daniel Rohrer şunları ekledi: “Yapay zeka yönetişim politikasının üretime hazır kontrollere ve denetim izlerine dönüştürülmesini otomatikleştiren asago projesi; Red Hat, NVIDIA ve ekosistemimizin açık kaynaklı araçlarla temsilci (agent) güvenliğini nasıl güçlendirdiğini kanıtlıyor.”

“Yapay zekayı ölçeklenebilir şekilde güvenli ve yönetilebilir kılmayı tek bir kurum başaramaz; bunun için açık araçlara, farklı uzmanlıklara ve tarafsız bir yönetişime ihtiyaç vardır,” açıklamasını yapan The Alan Turing Enstitüsü Baş Bilim İnsanı ve UCL Profesörü Jason McEwen sözlerini şöyle tamamladı: “asago'nun topluluk odaklı modelini cazip kılan tam olarak bu; bu yapı, Alan Turing Enstitüsü Temel Araştırmalar bünyesindeki Güvenilir ve Güvenceli Yapay Zeka çalışmalarımızla doğrudan bağlantılı. Kurucu ortak olarak katılmaktan ve geniş toplulukla birlikte projenin yönünü şekillendirmeye yardımcı olmaktan memnuniyet duyuyoruz.”

Erişilebilirlik
asago projesi şu anda proje kurulum aşamasında. Geliştiriciler, akademik araştırmacılar ve kurumsal ilk benimseyenler GitHub üzerinden kod deposunu inceleyebilir ve proje yönetişimine katılabiliyor. Daha fazla bilgi edinmek ve iş birliği talebinde bulunmak için asago.ai adresi ziyaret edilebiliyor veya topluluk grubu formu doldurulabiliyor. Daha fazla bilgi için Blog yazısını okuyabilirsiniz

Red Hat ile İletişim

Red Hat hakkında
Red Hat; dönüştürücü BT inovasyonları ve yapay zeka uygulamaları için güvenilir, tutarlı ve kapsamlı bir temel sunan açık hibrit bulut teknolojisi lideridir. Bulut, geliştirici, yapay zeka, Linux, otomasyon ve uygulama platformu teknolojilerinden oluşan portföyü; veri merkezinden uç noktalara kadar her türlü uygulamanın her yerde çalışmasına olanak tanır. Kurumsal açık kaynak yazılım çözümlerinde dünyanın lider sağlayıcısı olan Red Hat, yarının BT zorluklarını çözmek için açık ekosistemlere ve topluluklara yatırım yapar. İş ortakları ve müşterileriyle iş birliği yapan Red Hat; danışmanlık hizmetleri ile ödüllü eğitim ve sertifikasyon programlarıyla desteklenen çözümleri sayesinde kurumların BT ortamlarını inşa etmelerine, bağlamalarına, otomatikleştirmelerine, güvence altına almalarına ve yönetmelerine yardımcı olur.