Microsoft의 새로운 책임감 있는 기술 책임자가 고속 AI 개발을 인간화하는 방법에 대해 이야기합니다.

속도를 우선시하는 기술 환경에서 전적으로 책임감 있고 신뢰할 수 있는 기술은 거의 불가능한 임무이지만, 그렇다고 일부 회사가 시도하지 않는다는 의미는 아닙니다.

3월 20일 트럼프 행정부의 국가 AI 입법 프레임워크에 이어 "AI 경쟁에서 승리하는 것"이 여전히 가장 중요하게 여겨지는 가운데, 기술 개발자들은 빠르게 움직이고 문제를 해결하는 일반적인 윤리와 처음부터 책임감 있는 기술 프레임워크를 전략적으로 구현하는 것 사이의 긴장에 직면해 있습니다.

많은 경우, 앞서 나가는 것이 운전석을 차지했으며, 그 비용은 명확해졌습니다. Microsoft가 AI 생성 코드가 종종 접근성을 간과한다는 것을 스스로 인정한 것은 인간의 감독과 반복이 필수적임을 의미합니다.

2월에 Microsoft의 신뢰할 수 있는 기술 그룹 책임자가 된 Jenny Lay-Flurrie는 회사에서 21년 동안 접근성 분야에서 일해 왔으며, 기술의 책임감 있는 개발 및 배포는 두 가지 측면이 있다고 말합니다. "우리는 그것을 올바르게 구축했는지 어떻게 확신할 수 있을까요? 그리고 그것이 올바르게 유지되도록 어떻게 할 수 있을까요?"

Microsoft는 2025년 초에 신뢰할 수 있는 기술 그룹을 출시했으며, 이후 Lay-Flurrie의 이전 접근성 지시를 포함한 모든 책임감 있는 기술 이니셔티브를 통합했습니다.

Microsoft는 상향식 모델로 책임감 있는 기술을 중앙 집중화했지만, Google과 같은 경쟁사는 핵심 AI 원칙과 전문 안전 위원회에 의해 안내되는 보다 엔지니어링 주도적인 아키텍처를 유지합니다. 빅테크 전반에 걸쳐 기술은 다양하지만 Microsoft의 접근 방식은 2002년 Bill Gates가 새로운 기능 개발보다 안정성과 같은 것을 우선시하는 신뢰할 수 있는 컴퓨팅 메모를 발표한 이후 재편된 것입니다.

AI's woes (and the people who fix them)

AI의 문제점 (그리고 그것을 해결하는 사람들)

Lay-Flurrie의 더 넓은 책임감 있는 기술 분야로의 진출은 최근일 수 있지만, 그녀는 공정성, 투명성, 포용성 및 책임성을 포함하여 자신이 익숙해진 것과 동일한 일반 원칙을 따른다고 말합니다. Microsoft는 결과에 관계없이 "사람들이 AI에 대해 책임을 져야 한다"는 원칙에 따라 운영됩니다.

그렇기 때문에 Microsoft는 AI가 맹인 사람들을 정확하게 대표하지 못한다는 것을 깨달았을 때 그녀의 팀은 문제를 해결하기 위해 움직였습니다.

"맹인 사람들에 대한 생성된 이미지 중 일부는 끔찍한 전체 눈가리개를 한 사람들이 나왔습니다."라고 그녀는 말했습니다. "이 모델들은 사회에 존재하는 많은 자료로 훈련되고 있었습니다. 안타깝게도 사회는 항상 가장 포용적인 장소는 아니므로 훈련을 위해 데이터를 삽입해야 하는 경우가 있습니다."

이를 위해 Microsoft는 맹인 및 저시력 개인이 라이브 자원봉사자 및 AI와 연결하여 자신이 보는 것에 대한 오디오 통찰력을 제공하는 데 무료로 사용할 수 있는 비영리 접근성 플랫폼인 Be My Eyes로부터 2천만 분 이상의 멀티모달 데이터를 구매했습니다. "그들은 맹인 사람들이 지팡이와 개를 사용하는 모습과 집에서 열쇠를 찾는 모습에 대한 많은 비디오 자료를 가지고 있었고, 우리는 얼굴을 흐리게 하는 등 데이터를 익명화하여 맹인에 대해 모델을 더 적절하게 훈련할 수 있도록 했습니다."라고 Lay-Flurrie는 말했습니다.

이 과정은 강력하지만, AI 모델의 편향을 최소화하고 성능을 최대화하기 위해 노력하는 머신러닝 훈련 소프트웨어인 Reliabl의 CEO이자 설립자인 Annie Brown은 개선의 여지가 있다고 말합니다.

"더 다양한 데이터가 전부입니다."라고 Brown은 말했습니다. "데이터 세트에 업로드된 이미지에 레이블이 지정된 방식인 메타데이터 계층에서 무슨 일이 일어나고 있는지 주의를 기울이지 않으면 편향이 발생할 것입니다."

세상을 바꾸고 있는 AI 경쟁에도 불구하고 Microsoft는 책임감 있는 기술 학습을 공개적으로 공유하는 더 넓은 움직임의 일부입니다. Microsoft Learn은 학생, 학자 및 개발자가 무료로 사용할 수 있으며 책임감 있는 AI 원칙 등에 대한 교육 모듈을 포함합니다. Brown은 Microsoft가 "그들이 어떻게 AI에 포용성을 가져오는지"를 보기 위해 더 작은 사회 공헌 조직으로부터 배우기를 권장합니다.

개선에 관해서는 Lay-Flurrie는 그것이 당연한 결과라고 말합니다. "그것은 피드백을 명확하게 듣고, 그것을 받고, 반복하고, 테스트하고, 가능한 한 짧은 시간 내에 그것들을 해결하는 것입니다."라고 그녀는 말했습니다.

Humans vs. AI

인간 대 AI

Microsoft는 엔터프라이즈 기술의 주요 공급업체이며, 이는 자체 AI가 종종 고급 솔루션을 위해 직원을 해고하기로 결정하는 다른 회사를 지원한다는 것을 의미합니다. Microsoft 자체도 빅테크의 대규모 해고 물결의 일부이지만, 이는 단순한 대체보다는 우선순위 재조정에 가깝다고 명확히 했습니다. 이 회사는 2025년에 영업, 게임 및 고객 대면 부문에서 약 15,000명의 직원을 해고하고 AI 인프라에 중점을 둔 새로운 인력을 고용했습니다.

산업 전반에 걸쳐 해고가 계속되고 있음에도 불구하고 Lay-Flurrie는 AI가 이전에 소외되었던 근로자, 특히 신경 다양성 및 장애가 있는 근로자들에게 이미 평등한 기회를 제공하고 있다고 말합니다.

"Microsoft에서 Copilot에 처음 접근한 커뮤니티는 장애 직원 그룹이었습니다."라고 그녀는 말했습니다. "청각 장애인 커뮤니티의 경우, 자막, 녹취록, 회의록, 수화 인식은 독립성을 제공합니다. 말하는 내용을 녹취하기 위해 지도 제작자가 거기에 있을 때까지 기다릴 필요가 없습니다."

초기에 Copilot을 받은 신경 다양성 커뮤니티의 경우, 인지 부하에 큰 도움이 되어 "라이선스를 되돌려주지 않을 것입니다."라고 그녀는 말했습니다.

장애인 기업가들이 운영하고 그들을 위해 운영되는 글로벌 스타트업 액셀러레이터 2Gether-International (2GI)의 CEO이자 설립자인 Diego Mariscal는 Microsoft가 장애인을 포함시키기 위해 노력해 왔다는 것을 인정합니다. "Jenny의 직책이 이 수준에 존재한다는 사실 자체가 그 증거입니다."라고 그는 말했습니다. 그럼에도 불구하고, 의사 결정 테이블에 장애인을 포함시키는 것은 위에서 아래로, 아래에서 위로 모두 중요합니다. "AI가 발전함에 따라 장애인들이 자선적인 관점이 아니라, 그렇게 하는 것이 기술과 혁신을 모든 사람에게 더욱 최첨단이고 접근 가능하게 만들 것이기 때문에 테이블에 포함되도록 어떻게 보장할 수 있을까요?"