Microsoft is introducing a system that ranks AI models based on safety criteria. This move aims to enhance customer trust as the company offers a variety of AI products, including those from OpenAI and xAI. In addition to existing metrics like quality, cost, and throughput, a new "safety" category will be added, allowing customers to assess and choose AI models not only by performance but also by safety. The evaluation results will be available through the Azure Foundry platform. This decision comes amid growing concerns about data and privacy protection as AI agents increasingly operate without human supervision. With over 1,900 AI models registered, the new safety ranking is expected to help companies select more trustworthy models. Meanwhile, the use of AI agents in the financial sector is rising, with banks seeking effective ways to respond to increasing risk signals. Experts emphasize that AI is just a simple tool that is not frightening once its workings are understood, highlighting the importance of its safe use.
마이크로소프트가 AI 모델을 안전성 기준으로 평가해 순위를 매기는 시스템을 도입한다. 이는 오픈AI, xAI 등 다양한 AI 제품을 제공하며 고객 신뢰를 높이기 위한 조치다. 기존 품질, 비용, 처리 속도에 더해 ‘안전성’ 항목이 추가되며, 이를 통해 고객은 AI 모델의 성능뿐 아니라 안전성까지 직접 확인하고 선택할 수 있게 된다. 해당 평가 결과는 Azure Foundry 플랫폼을 통해 제공된다. 최근 AI 에이전트가 인간 감독 없이 작동하면서 데이터 및 개인정보 보호에 대한 우려가 커진 가운데 나온 결정이다. 1,900개 이상의 AI 모델이 등록된 가운데, 이번 안전성 평가는 기업들이 더 신뢰할 수 있는 모델을 선택하는 데 도움이 될 전망이다. 한편, 금융 분야에서는 AI 에이전트 활용이 증가하고 있으며, 은행들은 증가하는 위험 신호에 효과적으로 대응하는 방안을 모색 중이다. 전문가들은 AI가 작동 방식을 이해하면 두려울 것이 없는 단순한 도구라며, 안전한 활용이 중요하다고 강조했다.
