6.5 책임 있고 신뢰할 수 있는 AI

개요와 동기

책임 있고 신뢰할 수 있는 AI는 공정하고, 투명하고, 책임을 지고, 안전하고, 프라이버시를 존중하는 AI 시스템을 만들고 운영하는 실천입니다. 또한 이 모든 것을 영향받는 사람들과 규제 기관에 보일 수 있다는 뜻이기도 합니다. AI가 사람들의 삶을 형성하는 결정(채용, 대출, 급여 자격)을 맡게 되면서, 질문은 더 이상 “동작하는가?”만이 아니라 “옳은가, 정당화할 수 있는가?”입니다. 평균적으로 정확한 시스템도 한 하위 집단에게 불공정하거나, 영향받는 사람에게 설명할 수 없거나, 오용될 때 안전하지 않을 수 있습니다. 이 차원들을 저절로 해결되기를 바라는 것이 아니라 의도적으로 다룰 때 신뢰를 얻습니다.

큰 팀에서 책임 있는 AI는 한 사람의 일이나 마지막의 체크박스일 수 없습니다. 분명한 소유권과 에스컬레이션과 함께 시스템을 설계하고, 평가하고, 배포하고, 다스리는 방식에 엮어 넣으십시오. 규모에서는 작은 편향과 감독의 틈이 많은 사람에게 영향을 줍니다. 단 한 번의 세간의 이목을 끄는 실패가 평판을 해치고 규제를 부를 수 있습니다. 거버넌스 프레임워크는 바로 즉흥적인 선의가 확장되지 않기 때문에 존재합니다.

정부와 규제 조직은 구속력 있는 의무에 직면합니다. EU AI 법 같은 새로운 법은 위험에 따라 등급이 매겨진 요건을 부과합니다. NIST AI 위험 관리 프레임워크와 ISO/IEC 42001 같은 표준은 이를 충족하는 구조화된 방법을 줍니다. 공공 기관은 위법한 차별을 피하고, 자동화된 결정에 이의를 제기할 길을 제공하고, 공권력을 행사하며 AI를 어떻게 쓰는지 투명해야 합니다. 이런 환경에서 책임 있는 AI는 윤리적 의무이자 법적 필요입니다.

함께 보기: 6.1장(AI 전략과 준비도), 10.5장(윤리, 책무, 공익), 4.5장(프라이버시와 데이터 보호).

핵심 원칙

공정성은 가정할 것이 아니라 측정하고 관리할 설계 목표입니다.
AI 결정의 영향을 받는 사람들은 설명과 그것에 이의를 제기할 경로를 누릴 자격이 있습니다.
책무는 사람과 조직에 있으며, 모델에 있지 않습니다.
프라이버시와 안전은 오용과 남용에 대한 보호를 포함해 설계에 짜 넣어야 합니다.
거버넌스는 방어 가능하고 감사 가능하도록 인정된 프레임워크를 따라야 합니다.
사람의 감독은 무시하고 중단시킬 실질적 권한이 있는, 의미 있는 것이어야 합니다.
환경 발자국을 포함해 AI의 더 넓은 비용을 고려하십시오.

권장 사항

편향과 불공정을 탐지하고 완화한다

여러분의 맥락에서 공정성이 무엇을 뜻하는지 정의하십시오. 여러 개의, 때로는 서로 충돌하는 수학적 정의가 있으며, 올바른 것은 결정과 법에 달려 있습니다. 대표성 있는 데이터를 써서 보호받는 집단과 취약한 집단 전반의 차별적 성능을 모델에 대해 테스트하십시오. 배포 전에 하고 이후에도 계속하십시오. 인구가 이동함에 따라 편향이 생길 수 있기 때문입니다. 더 나은 데이터, 재가중, 제약, 또는 시스템 사용 방식의 변경으로 완화하고, 받아들인 트레이드오프를 문서화하십시오. 대리 변수가 남기 때문에 보호 속성을 제거한다고 편향이 사라지지 않습니다. 공정성을 일회성 승인이 아니라 지속적인 측정과 관리의 규율로 다루십시오.

설명 가능성, 해석 가능성, 투명성을 제공한다

설명의 수준을 판돈과 청중에 맞추십시오. 중대한 결정에서는 영향받는 사람들이 이해하고 행동할 수 있는 분명한 쉬운 말의 이유를 주십시오. 내부 거버넌스를 위해서는 시스템을 디버깅하고 방어할 만큼의 기술적 해석 가능성을 유지하십시오. 판돈이 높고 해석 가능성이 달성 가능한 곳에서는 본질적으로 해석 가능한 모델을 선호하십시오. 복잡한 모델이 필요한 곳에서는 한계에 정직하면서 설명 기법을 쓰십시오. 특히 대중과의 상호작용에서 AI가 쓰이고 있다는 사실 자체를 투명하게 하십시오.

인정된 프레임워크로 다스린다

거버넌스를 발명하는 대신 구조화된 거버넌스 접근을 채택하십시오. NIST AI 위험 관리 프레임워크는 AI 위험을 다스리기, 매핑하기, 측정하기, 관리하기를 중심으로 일을 조직합니다. EU AI 법은 시스템을 위험에 따라 분류하고 그에 맞게 의무를 부과하며, 고위험 용도에는 엄격한 요건을 둡니다. ISO/IEC 42001은 감사하고 인증할 수 있는 AI 경영 시스템을 정의합니다. 시스템을 이 프레임워크에 매핑하십시오. 모델 카드와 데이터 카드(모델이나 데이터셋의 목적, 성능, 한계의 표준화된 요약) 같은 문서를 유지하십시오. 배포 전에 위험 평가를 수행하고, 위험 수준과 소유자가 있는 AI 시스템의 목록을 유지하십시오. 좋은 거버넌스는 분명한 역할, 의사결정 권한, 에스컬레이션 경로를 부여합니다.

사람의 감독, 책무, 이의 제기를 보장한다

중대한 결정은 사람이 의미 있게 통제하게 하되, 도장 찍기가 아니라 시스템을 무시하는 데 필요한 진짜 권한과 정보를 주십시오. 분명한 책무를 부여하십시오. 각 시스템의 행동에 답할 소유자의 이름을 정하십시오. 자동화된 결정의 영향을 받는 사람들에게 설명을 받을 권리와 결과를 바꿀 수 있는 사람에게 이의를 제기할 실행 가능한 절차를 주십시오. 이의 제기와 감사를 공정하고 신속하게 처리할 수 있도록 결정과 그 근거를 기록하십시오.

프라이버시, 안전, 오용으로부터 보호한다

수집하고 사용하는 개인 데이터를 최소화하고, 적법한 근거를 확립하고, 관련된 민감도에 맞는 프라이버시 기법을 적용하십시오. 조작, 탈옥, 해를 입히는 오용의 방법을 찾도록 배포 전후에 시스템을 레드팀하고, 찾은 것을 고치십시오. 해로운 콘텐츠 생성, 민감한 데이터 유출, 남용 가능화에 대한 보호 장치를 만드십시오. 사고에 대비하십시오. 모니터링, 대응, 공개입니다. 의도된 용도만이 아니라 이중 용도(같은 역량이 유익한 목적과 해로운 목적 모두에 쓰이는 것)와 하류의 오용을 고려하십시오.

환경 비용을 고려한다

큰 모델의 학습과 서빙은 상당한 에너지와 물을 소비합니다. 주요 AI 워크로드의 발자국을 측정하고 보고하십시오. 필요를 충족하는 곳에서는 효율적인 모델과 하드웨어를 선호하십시오. 기본으로 가장 큰 것을 쓰는 대신 모델을 과업에 맞게 크기를 조정하고, 아키텍처와 조달 결정에 환경 비용을 반영하십시오.

장단점

긴장	한쪽	다른 쪽
정확도 대 공정성	가장 높은 평균 정확도	집단 전반의 공평한 결과
성능 대 해석 가능성	복잡하고 강력한 모델	설명 가능하고 방어 가능한 모델
자동화 대 감독	효율과 규모	사람의 통제와 책무
데이터 유용성 대 프라이버시	더 많은 데이터로 더 풍부한 모델	데이터 최소화와 보호
역량 대 안전	넓고 개방적인 기능	제약되고 보호된 행동
속도 대 거버넌스	빠른 배포	철저한 리뷰와 문서화

공짜 점심은 좀처럼 없습니다. 공정성을 개선하면 정확도를 일부 잃을 수 있습니다. 해석 가능성은 성능을 일부 치를 수 있습니다. 거버넌스는 시간이 듭니다. 책임 있는 길은 이 트레이드오프를 의식적으로 하고, 문서화하고, 판돈이 높을 때 영향받는 사람들과 방어 가능성 쪽으로 선택하는 것입니다. 거버넌스를 혁신의 제동 장치로 구성하는 것은 거짓 이분법입니다. 관리되지 않은 AI 위험 자체가 지속적인 혁신에 대한 위협입니다.

팀과 논의할 질문

배포된 AI 시스템 중 EU AI 법이 고위험으로 분류할 것은 어느 것이며, 오늘 그 의무를 충족하고 있습니까? 위험 등급별 법은 이제 가정이 아니라 구속력이 있으며, 채용, 대출, 급여 자격을 결정하는 시스템은 이미 위반하고 있을 수도 있는 엄격한 요건을 질 수 있습니다. 큰 조직에서 이 질문은 거버넌스가 “처리되었다”는 편안한 가정 대신 정직한 목록을 강제합니다. 위험 수준과 소유자가 있는 AI 시스템 목록을, 관련되는 곳에서 EU AI 법, NIST AI 위험 관리 프레임워크, ISO/IEC 42001에 매핑해 가져오십시오. 지켜볼 신호는 위험 분류, 영향 평가, 모델 또는 데이터 카드가 없는 중대한 시스템입니다. 공권력을 행사하는 공공 기관에게 의무 누락은 밀린 일이 아니라 법적 노출이며, 답은 그 시스템들이 요구하는 평가와 문서화를 촉발해야 합니다.
모델이 누군가를 거부할 때, 그 사람이 쉬운 말의 이유를 받고 결과를 실제로 뒤집을 수 있는 사람에게 닿을 수 있습니까? 설명을 받을 권리와 실행 가능한 이의 제기는 책임 있는 AI를 구제 수단 없이 사람들을 해치는 블랙박스와 가릅니다. 평균으로 측정한 공정성도 개인을 실패시킬 수 있고, 배포 후에 고른 해석 가능성은 대개 연극입니다. 배포된 특정 결정 하나를 가져와 추적해 보십시오. 영향받는 사람이 받는 이유, 이의 제기 채널, 반대편의 사람이 무시할 진짜 권한과 기록된 근거를 갖는지입니다. 정부와 규제 환경에서 이의 제기 경로는 흔히 호의가 아니라 법적 요건입니다. 이유를 이해할 수 없거나 이의 제기가 도장 찍기로 이어진다면, 그것이 다음 릴리스 전에 고칠 간극입니다.
모델이 해를 입힐 때 책임지는 단 한 명의 지명된 사람은 누구이며, 그를 중단시킬 실질적 권한이 있습니까? 책무는 사람과 조직에 있으며 모델에 있지 않지만, 그 원칙은 각 시스템에 이름이 붙고 그 사람이 실제로 플러그를 뽑을 수 있기 전까지 공허합니다. 큰 팀에서 흩어진 소유권은 공정성 실패나 탈옥이 드러날 때 모두가 다른 누군가 지켜보고 있다고 가정한다는 뜻입니다. 소유권 지도, 에스컬레이션 경로, 감독이 의미 있다는 증거를 가져오십시오. 지명된 소유자가 시스템을 무시하거나 멈출 정보와 권한을 얻습니까, 아니면 고개를 끄덕일 권한만 얻습니까? 아직 상상하지 못한 오용과 남용을 어떻게 레드팀하는지 논의하십시오. 의도된 용도만 테스트하면 헤드라인을 장식하는 실패를 놓치기 때문입니다. 답은 멈출 수 있는 책임 있는 소유자 없이 중대한 시스템을 남겨 두지 않아야 합니다.
중대한 모델 각각에 대해 어떤 공정성 정의를 골랐고, 누가 승인했으며, 하위 집단 지표가 프로덕션에서 실제로 유지됩니까? 공정성에는 서로 충돌하는 여러 수학적 정의가 있어서 동일한 위양성률을 만족하는 모델이 동일한 결과를 위반할 수 있고, 정의를 고르는 것은 학습 루프를 쓴 사람에게 맡겨서는 안 되는 가치 판단입니다. 큰 팀에서 검토되지 않은 기본값은 선택을 코드 속에 숨기고 모든 하류 집단이 아무도 논쟁하지 않은 결정을 물려받게 합니다. 최적화한 공정성 지표, 테스트한 보호받는 집단과 취약한 집단, 사용한 대표성 있는 데이터, 출시 이후 본 드리프트를 가져오십시오. 보호 속성을 제거해도 편향을 살려 두는 대리 변수가 남기 때문입니다. 기업과 정부 환경에서는 공정성 트레이드오프를 받아들일 권한이 있는 사람의 이름을 정하고 기록하십시오. 규제 기관이나 옴부즈맨은 대출, 급여, 일자리를 거부당한 사람들에게 이 공정성의 정의가 옳다고 누가 결정했는지 물을 것이기 때문입니다. 배포 후 하위 집단 지표를 모니터링하지 않는다면, 그 모델을 공정한 것이 아니라 측정되지 않은 것으로 다루십시오.
각 시스템은 얼마나 적은 개인 데이터로 돌아갈 수 있으며, 생각하고 싶지 않은 오용과 이중 용도에 대해 레드팀했습니까? 프라이버시와 안전은 설계에 짜 넣어야 하고, 침해 위험과 남용 표면을 모두 줄이는 가장 싼 방법은 애초에 데이터를 덜 수집하고 보유하는 것인데도, 팀들은 “나중에 도움이 될지 몰라서” 입력을 으레 쌓아 둡니다. 큰 조직에서 모든 추가 필드는 적법한 근거의 문제이고, 보존 의무이며, 공격자나 탈옥에게 더 큰 상입니다. 각 시스템의 데이터 목록과 적법한 근거, 조작, 유출, 해로운 생성에 대한 레드팀 결과, 정당한 사용자를 돕는 같은 기능이 악의로 행동하는 누군가도 돕는 이중 용도 역량의 정직한 목록을 가져오십시오. 규제 및 공공 맥락에서는 이를 사고 계획에 묶으십시오. 모니터링, 대응, 공개입니다. 민감한 데이터를 유출하거나 탈옥 가능한 시스템을 출하한 공공 기관은 단순한 망신이 아니라 법정 의무에 직면하기 때문입니다. 레드팀이 의도된 경로만 시험했다면 시스템이 아니라 시연을 테스트한 것입니다.
주요 AI 워크로드의 환경 발자국을 측정하고 소유합니까, 아니면 “가장 큰 모델을 쓴다”가 값이 매겨지지 않은 기본값입니까? 큰 모델의 학습과 서빙은 실제 에너지와 물을 소비하며, 더 작은 모델이 처리할 과업에 기본으로 가장 큰 모델을 쓰는 것은 엔지니어링의 지름길을 조직이 대시보드에서 결코 보지 못하는 반복 비용으로 바꿉니다. 많은 워크로드를 운영하는 큰 팀에서 호출당 작은 비효율은 공개 기대가 조여짐에 따라 조달과 보고의 부채가 되는 발자국으로 복리로 쌓입니다. 가장 무거운 워크로드의 측정된 발자국, 모델 크기와 과업이 실제로 필요로 하는 정확도의 비교, 크기를 조정할 수 있는 하드웨어와 서빙 선택을 가져오십시오. 기업과 정부 환경에서는 이를 지속가능성 약속과 조달 기준에 연결하십시오. 공공 기관은 점점 환경 영향을 보고하고 지출을 정당화해야 하며, 측정되지 않은 발자국은 언젠가 내놓으라고 요구받는데 낼 수 없는 수치이기 때문입니다. 환경 비용이 모델 선택의 공식 입력인지 정하거나, 오늘은 아니라고 인정하십시오.

분야별 관점

스타트업. 거버넌스 위원회에 인력을 둘 수 없으니, 그래도 의미 있는 가벼운 버전을 하십시오. 결정이 중대한 곳에서는 해석 가능한 모델을 고르고, 한 페이지짜리 모델 카드를 쓰고, 측정할 수 있는 집단 전반의 차별적 결과를 테스트하고, 성장하면서 공정성을 다시 검토할 수 있도록 결정을 기록하십시오. 불리한 결정에는 쉬운 말의 이유와 사람에게 가는 경로를 주십시오. 이를 건너뛰는 것은 속도가 아니라, 불공정한 결정 하나가 언론이나 규제 기관에 닿으면 감당할 수 없는 부채입니다.

소기업. 전담 전문가가 없으니 책임 있는 AI를 구매의 문제로 다루십시오. 공정성 테스트를 문서화하고, 모델 카드와 데이터 카드를 공개하고, AI가 쓰일 때 고객에게 알릴 수 있게 하는 벤더를 선호하십시오. 도구가 어떤 개인 데이터를 수집하는지, 사용할 적법한 근거가 있는지 아십시오. 틀린 자동화 답이 고객을 해칠 수 있는 곳에서는 검사하거나 설명할 수 없는 도구를 신뢰하는 대신 사람을 루프에 두십시오.

대기업. 과업은 많은 팀에 걸친 규모의 거버넌스입니다. 모든 시스템을 NIST AI 위험 관리 프레임워크, EU AI 법, ISO/IEC 42001에 매핑하고, 위험 수준과 지명된 소유자가 있는 목록을 유지하고, 출시 전후로 공정성, 안전, 프라이버시 테스트를 요구하십시오. 그룹들이 다시 발명하지 않도록 모델 및 데이터 카드, 레드팀, 이의 제기 절차를 표준화하십시오. 거버넌스, 감독, 해석 가능성 비용을 명시적으로 예산에 잡고, 관리되지 않은 AI 위험을 영업 허가에 대한 위협으로 다루십시오.

정부. 조달 규칙, 투명성, 공적 책임이 모든 선택을 형성합니다. 쉬운 언어의 투명성 고지를 공표하고, 배포 전에 영향 평가를 수행하고, 시민에게 영향을 주는 모든 행동에는 실행 가능한 이의 제기 경로와 함께 의미 있는 사람의 의사결정을 유지하십시오. 벤더가 모델 한계를 공개하고 데이터 이식성을 보장하도록 요구하고, 위법한 차별을 피하고, 각 시스템에 책임 있는 공무원의 이름을 정하고, 주요 워크로드의 환경 발자국을 보고하십시오.

사례

스타트업. 초기 신용 평가 기능을 만드는 한 작은 대출 스타트업은 거버넌스 위원회에 인력을 둘 수 없어서, 그래도 중요한 가벼운 버전을 했습니다. 두 창업자가 함께 모델을 승인했고, 측정할 수 있는 집단 전반의 차별적 결과를 테스트했으며, 데이터, 한계, 알려진 위험을 다룬 짧은 한 페이지짜리 모델 카드를 썼습니다. 거절된 신청자에게 쉬운 말의 이유와 사람 리뷰로 가는 경로를 줄 수 있도록 더 단순하고 해석 가능한 모델을 골랐고, 성장하면서 공정성을 다시 검토할 수 있도록 결정을 기록했습니다.

기업. 신용 모델을 배포하던 한 은행이 AI 거버넌스 위원회를 세우고, 모델을 고위험 범주에 매핑하고, 출시 전후로 인구 집단 전반의 공정성 테스트를 요구했습니다. 모델을 모델 카드에 문서화했습니다. 거절된 신청자에게 쉬운 말의 이유와 사람 심사역에게의 이의 제기를 주었고, 조작에 대해 시스템을 레드팀했습니다. 모든 결정을 규제 기관에 설명하고 방어해야 했기 때문에 다소 덜 정확하지만 더 해석 가능한 모델을 골랐습니다.

정부. AI로 검사 자원 배분을 돕던 한 공공 기관이 프로그램을 NIST AI RMF와 해당되는 AI 법의 관련 조항에 맞췄습니다. 시스템이 어떻게 동작하는지와 보호 장치를 설명하는 투명성 고지를 공표했습니다. 배포 전에 영향 평가를 수행하고, 시민에게 영향을 주는 모든 행동에는 의미 있는 사람의 의사결정을 유지했으며, 이의 제기 절차를 제공했습니다. 공정성은 지속적으로 모니터링되었고, 워크로드의 환경 비용이 보고되었으며, 시스템에 책임지는 사람으로 책임 있는 공무원의 이름이 정해졌습니다.

비즈니스 사례: 동기, ROI, TCO

책임 있는 AI는 가치를 만드는 만큼 지킵니다. ROI는 대체로 피한 비용입니다. 더 적은 차별 소송, 규제 과징금, 평판 재앙, 더 매끄러운 감사, 도입을 이끄는 더 큰 사용자와 대중의 신뢰입니다. 신뢰할 수 있는 시스템은 더 견고하기도 합니다. 공정성과 안전을 낳는 규율이 더 나은 엔지니어링도 낳기 때문입니다.

TCO는 거버넌스 인력, 공정성과 안전 테스트, 문서화, 레드팀, 감독 프로세스, 해석 가능성이나 공정성을 위해 때로 내주는 성능을 포함합니다. 이를 투자하지 않는 비용에 견주어 저울질하십시오. 법적 책임, 강제 중단, 잃은 대중의 신뢰, 실패 뒤에 거버넌스를 보강하는 훨씬 높은 비용입니다. 규제 맥락에서 책임 있는 AI 투자는 점점 협상 불가입니다. 리더십에는 위험 관리이자 영업 허가, 곧 규모에서 AI를 배치하기 위한 전제 조건으로 구성해 설득하십시오.

안티패턴과 함정

누락에 의한 공정성. 보호 속성을 무시하기 때문에 모델이 공정하다고 가정하는 것.
설명 가능성 연극. 결정이 실제로 내려지는 방식을 반영하지 않는 설명을 만드는 것.
도장 찍기 감독. 무시할 실질적 권한이나 정보 없는 명목상의 사람 리뷰.
사후 고려로서의 거버넌스. 설계와 배포 뒤에 문서화와 리뷰를 덧붙이는 것.
이의 제기 경로 없음. 영향받는 사람들이 자동화된 결정에 이의를 제기할 방법이 없는 것.
오용 무시. 의도된 용도만 테스트하고 탈옥과 남용을 놓치는 것.
발자국 맹목. 환경 비용을 고려하지 않고 기본으로 가장 큰 모델을 쓰는 것.

성숙도 모델

시작. 공정성 테스트, 설명, 거버넌스가 없습니다. 책임이 정의되지 않고, 편향, 오용, 프라이버시 문제는 해를 입은 뒤에야 드러나며, AI 시스템이나 그 위험의 목록이 없습니다.
발전. 일부 편향 테스트, 모델 카드, 레드팀이 개별 시스템에서 이루어지지만 실천은 팀마다 일관되지 않습니다. 감독은 즉흥적이고, NIST AI 위험 관리 프레임워크와 EU AI 법 같은 프레임워크는 알려져 있으나 부분적으로만 채택됩니다.
표준화. 거버넌스가 문서화되어 조직 전체에서 시행됩니다. 시스템이 인정된 프레임워크와 ISO/IEC 42001에 매핑되고, 각각 위험 수준과 지명된 소유자가 있으며, 공정성, 안전, 프라이버시 테스트, 모델 및 데이터 카드, 이의 제기 경로, 고위험 시스템의 레드팀이 선택이 아니라 필수입니다.
관리. 프로그램이 데이터로 측정되고 통제됩니다. 하위 집단 공정성 지표, 안전과 탈옥 발견, 이의 제기 건수와 번복률, 감독 무시율, 워크로드 발자국이 기준선과 임계값에 대해 추적되고, 드리프트와 차별적 결과가 정의된 행동을 촉발하며, 진행 또는 중단 결정은 보증이 아니라 증거에 근거합니다.
오케스트레이션. 책임 있는 AI가 조직 전체에서 지속적으로 개선되고 통합됩니다. 공정성, 안전, 오용의 모니터링이 프로덕션에서 돌고, 거버넌스가 전달에 내장되고, 환경 비용이 모델 선택의 공식 입력이며, 조직은 법, 위험, 역량이 이동함에 따라 통제를 적응시키고 책임은 단일 팀이 아니라 모두가 소유합니다.

논의를 위한 아이디어

주어진 결정에는 어떤 공정성 정의가 적용되며, 누가 결정합니까?
공정성이나 해석 가능성을 위해 얼마나 많은 정확도나 성능을 맞바꾸는 것이 허용됩니까?
무엇이 사람의 감독을 도장 찍기가 아니라 의미 있게 만듭니까?
자동화된 결정에 대한 이의 제기는 공정하고 시기적절하도록 어떻게 설계해야 합니까?
아직 상상하지 못한 오용을 어떻게 레드팀합니까?
환경 비용이 모델 선택에 영향을 주어야 하며, 어떻게 저울질하겠습니까?

핵심 요점

신뢰할 수 있는 AI는 설계에서부터 공정하고, 설명 가능하고, 책임을 지고, 안전하고, 프라이버시를 존중합니다.
공정성과 안전은 일회성 검사가 아니라 지속적인 측정과 관리의 규율입니다.
방어 가능하고 감사 가능하도록 거버넌스를 NIST AI RMF, EU AI 법, ISO/IEC 42001에 맞추십시오.
의미 있는 사람의 감독, 분명한 책무, 실질적인 이의 제기 권리를 유지하십시오.
프라이버시와 오용 방지를 설계에 짜 넣고 환경 비용을 고려하십시오.

참고 문헌과 더 읽을거리

National Institute of Standards and Technology, AI Risk Management Framework (AI RMF 1.0).
European Union, Artificial Intelligence Act (Regulation on Artificial Intelligence).
ISO/IEC 42001, Information technology, Artificial intelligence, Management system.
Solon Barocas, Moritz Hardt, and Arvind Narayanan, Fairness and Machine Learning: Limitations and Opportunities.
Christoph Molnar, Interpretable Machine Learning.
Cathy O’Neil, Weapons of Maths Destruction.
Emma Strubell, Ananya Ganesh, and Andrew McCallum, Energy and Policy Considerations for Deep Learning in NLP.