Microsoft의 AI 안전 도구, 오류 감지와 수정 기능 추가
Microsoft(마이크로소프트)?
마이크로소프트(Microsoft Corporation)는 1975년 빌 게이츠와 폴 앨런에 의해 설립된 미국의 다국적 기술 기업입니다. 본사는 워싱턴주 레드먼드에 위치하고 있으며, 클라우드 컴퓨팅, 소프트웨어, 보안 산업 및 전자제품 하드웨어 등 다양한 분야에서 활동하고 있습니다.
주요 사업 영역
소프트웨어:
- 운영 체제: Windows
- 생산성 소프트웨어: Microsoft 365 (워드, 엑셀, 파워포인트 등)
- 커뮤니케이션 도구: Teams, Outlook
클라우드 서비스:
- Azure: 기업들이 디지털 전환을 지원하는 클라우드 플랫폼
- Dynamics 365: 비즈니스 애플리케이션 및 CRM 솔루션
게임 및 하드웨어:
- Xbox: 비디오 게임 콘솔
- Surface: 태블릿 및 노트북 제품군
AI 기술:
- OpenAI와의 파트너십을 통해 ChatGPT와 같은 AI 기능을 Bing 및 Microsoft 365 제품에 통합하고 있습니다.
AI 오류 감지 및 수정의 새로운 지평
‘Correction’ 기능 소개
Microsoft가 AI 안전성을 높이기 위한 새로운 기능 ‘Correction’을 선보였습니다. 이 기능은 AI 출력물의 부정확성을 자동으로 감지하고 수정할 수 있습니다.
Azure AI Studio와의 통합
Correction 기능은 Azure AI Studio의 일부로 제공됩니다. 이는 AI 시스템의 취약점을 탐지하고, ‘환각’ 현상을 찾아내며, 악의적인 프롬프트를 차단하는 안전 도구 모음입니다.
작동 방식
이 시스템은 AI 출력물을 고객의 소스 자료와 비교하여 부정확성을 스캔하고 식별합니다. 오류를 강조 표시하고, 왜 잘못되었는지 설명한 뒤, 해당 내용을 다시 작성합니다.
AI 오류 수정의 잠재력과 한계
Google의 Vertex AI와 비교
Google의 Vertex AI도 유사한 ‘그라운딩’ 기능을 제공합니다. 이는 Google 검색, 회사 자체 데이터, 그리고 곧 제3자 데이터셋을 통해 AI 모델의 출력을 검증합니다.
Microsoft의 접근 방식
Microsoft는 ‘소형 언어 모델’과 ‘대형 언어 모델’을 모두 사용하여 출력물을 기반 문서와 일치시킵니다. 하지만 이 방식도 완벽하지는 않습니다.
한계점 인식
Microsoft는 이 시스템이 ‘정확성’을 완전히 해결하지는 못하며, 단지 AI 출력물을 기반 문서와 일치시키는 데 도움을 준다고 명시했습니다.
AI 안전성 향상을 위한 지속적인 노력
산업 전반의 움직임
Microsoft뿐만 아니라 Google, OpenAI 등 다른 기업들도 AI의 안전성과 신뢰성을 높이기 위해 노력하고 있습니다.
사용자 경험 개선
이러한 도구들은 AI 시스템 사용자들에게 더 정확하고 신뢰할 수 있는 정보를 제공하는 것을 목표로 합니다.
향후 발전 가능성
AI 기술이 발전함에 따라, 오류 감지 및 수정 기능도 더욱 정교해질 것으로 예상됩니다.
결론
Microsoft의 ‘Correction’ 기능은 AI 안전성 향상을 위한 중요한 진전입니다. 완벽하지는 않지만, AI 출력물의 정확성을 높이는 데 큰 도움이 될 것입니다. 앞으로 이러한 도구들이 더욱 발전하여 AI 시스템의 신뢰성을 높이고, 사용자들에게 더 나은 경험을 제공할 수 있기를 기대해 봅니다.
참조글
https://www.theverge.com/2024/9/24/24253452/microsoft-correction-ai-safety-tool-fix-errors