법적인 Framework for Artificial Intelligence Defense in 소송 사례

AI Defense argues의 한 물가 인간의 지시 범위 밖에 운영되는 알고리즘이 또는 예측 가능한 매개 변수에서 출발. 기계 학습 모델이 명시적인 프로그래밍 이외의 교육 데이터의 패턴에 따라 결정되면 수비수는 인간 개인은 평평한을 해칠 수있는 특정 선택을 할 수 없습니다. 법원은 황소 책임, 계약 위반 또는 법령 위반의 목적으로 산란 산출이 수비인의 "콘덕트"를 구성하는지 여부와 함께 grapple로 시작해야합니다. 수비수용 도전은 법원이 종종 검증되거나 부적절한 모니터링 된 AI 시스템을 배포하는 결정을 볼 수있는 결정이다. 자체는 숙련되는 인간 선택으로, 알고리즘의 자율성에서 배포에 대한 소유자의 negligence로 전환 초점. 정상적인 침전이 AI 시스템 또는 인간적인 감독 실패가 부상을 초래할 수 없는 경우 손상은 진흙으로 됩니다.

일반적으로, 아니. 법원은 자동 책임 방패로 AI 배포를 인식하지 않았습니다. 대신, 그들은 기업이 책임을 맡는 사업 결정으로 알고리즘 시스템의 사용을 치료합니다. 적절한 테스트, 문서 또는 인간의 검토없이 AI를 배포하는 회사는 일반적으로 알고리즘을 주장하여 책임을 탈출 할 수 없습니다 "자유" 뉴욕 법원은 연방 재판소와 같은 전통적인 negligence 및 엄격한 책임 기준을 적용, 이 시스템을 위해 적합 한 목적에 맞는 표시 하는 방어를 필요로하는 AI 구동 행위에 대한, 경고 또는 공개 된 것, 그리고 인간의 oversight는 상황에 따라 합리적인. 특정 출력을 생성하는 알고리즘은 시스템의 공정하게 작동하고 안전하게, 적용 가능한 법률 내에서 회사의 해결하지 않습니다. Liability는 종종 수비수가 알고 있는지 여부를 돕거나 AI가 위험에 처한 것으로 간주하고 그것을 해결하지 못했습니다.

부분은 알고리즘의 설계, 교육 데이터, 테스트 프로토콜 및 실제 출력을 손으로 생성해야합니다. 기계 학습, 소프트웨어 아키텍처 및 데이터 과학에 대한 전문가 평가는 AI 방어 사례에서 거의 필수입니다. 수비수는 설계 사양 내에서 수행 된 알고리즘이 입증 될 수있다. 인간 운영자가 시스템을 과도하거나 해적 할 수있는 기회를 가지고 있지만하지 않았다. Conversely, 평범한 전문가는 알고리즘이 비스듬히 테스트되었거나 수비수의 실패가 성능에 영향을 미치는 것으로 나타났습니다. 뉴욕 법원의 발견 과정, 연방 법정과 같은 지금 일상적으로 알고리즘 소스 코드에 대한 요청을 포함, 교육 데이터 세트, 성능 미터 및 인간의 검토 체크 포인트 문서. 법원은 "AI가 결정한"을 주장하는 vague에 대한 골격이 표시되었습니다.

문서는 중요. 알고리즘 테스트, 성능 감사, 인적 검토 로그 및 시스템 업데이트의 상세한 기록을 유지하고 AI가 의도적으로 운영되는 위치를 강화하며 인간의 통찰력이 존재한다는 것을 방어합니다. Conversely, 문서의 부재는 비방수가 적절하게 모니터링하거나 시스템을 검증하지 않은 의도를 만듭니다. 뉴욕 및 연방 관할 구역의 법원은 알고리즘 기술 운영이 소리가 들더라도 네거티브를 증명하면서 누락되거나 불완전한 감사 흔적을 치료했습니다. 수비수가 발생하지 않으면 AI의 출력이 높은 스테이크 컨텍스트, 판사 및 심사위원에 배치하기 전에 인간의 의사 결정 제작자에 의해 검토 된 것을 보여주는 동시 레코드를 생산할 수있다. 이 연구는 수많은 연구와 개발, 분석 및 기술에 대한 연구를 수행하고 있습니다. 우리는 또한 다양한 분야에서 강력한 과학 기술을 보유하고 있으며, 이러한 기술은 이미 많은 산업 분야의 발전을 이루고 있습니다.

중요한 구분은 prosecution이 지식이나 의도적 행동을 입증 할 때 나타납니다. 회사의 경영진이 AI 시스템이 신중한 결과를 생성하고 이를 수정하지 못하는 것이 무엇인지 알고 있다면, 기업의 지식은 차별적인 증거가 됩니다. 법정은 방어자가 범죄 책임을 피하기 위해 알고리즘 opacity 뒤에 숨길 수있는 인수를 허용하지 않습니다. 대신 범죄 법원은 배포를 치료하고 알려진 행동 시스템의 지속적인 사용 intent의 비공식 증거로. , 종종 수비수가 유해한 경우에 따라서는 AI 방어적인 사건에서 지속될 수 있는 인텐트의 증거를 요구하지 않고 혼자 negligence에 근거하여 회복을 허용하는 시민 책임 기준.

연방 무역위원회 (Federal Trade Commission)와 같은 연방 대행사, 소비자 금융 보호국 및 Equal 고용 기회 위원회는 알고리즘 bias 및 불공정한 결과가 AI 시스템이 결정되었다 수비수 주장에 의해 변하지 않는 신호했다. 규제 시행 행동은 신중한 영향을 위한 시험, 검증 및 모니터링 AI 시스템에 대한 기업의 의무에 초점을 맞추고 있습니다. 회사는 검증된 알고리즘을 배포하고 그 효과의 ignorance를 주장하여 규제 의무를 만족할 수 없습니다. 규제 자세는 기관이 불공정하고 제제한 관행을 방지하기 위해 법령 위임장의 밑에 운영되기 때문에 몇몇 시민 negligence 기준 보다는 더 엄격하, 그들은 회사의 책임에 사업 선택 주제로 AI 배치를 전망합니다. 뉴욕의 소비자 보호법 및 데이터 프라이버시 규정은 점점 더 많은 사람들이 자동화된 의사 결정에 영향을 미치는 경우 조직이 소비자에게 영향을 미치고 인간 검토와 호소를 위해 메커니즘을 제공해야합니다.

AI 윤리 또는 지배 위원회를 수립하고 배포하기 전에 새로운 시스템을 검토하는 것이 가장 좋은 관행은 교육 데이터 및 모델 출력에 대한 bias 감사를 수행하며, 결과 테스트와 재중 행동의 동시 기록 유지. 높은 스테이크 결정에 대한 신용 승인, 고용 추천 또는 콘텐츠 모멘트와 같은 단체는 인간의 검토 및 서명 오프 프로세스를 유지해야합니다. 강력한 테스트 프로토콜, 문서화 된 인간 검토 및 식별된 문제의 적시 구제가 소송에 더 강한 자세를 제시 할 수있는 방어. 거의 검증과 인간의 관점이 아닌 최소한의 AI 시스템을 배포하는 조직은 약한 AI 방어뿐만 아니라 잠재적 규제 집행 및 punitive 손상 노출을 방지하지 않습니다. 법원은 산재의 합리성 및 해적성의 관대를 위해 프록시로 알고리즘 지배력을 볼 수 있습니다.

법에 의해 점점 더 요구되고 법원의 책임 제한 연습으로 지원되는 알고리즘 결정 만들기. 뉴욕의 알고리즘 책임법 및 이와 유사한 프레임워크를 통해 조직은 자동화된 시스템에서 그 권리를 또는 관심사에 영향을 미칠 수 있는 개인 정보를 알려야 합니다. 투명도는 또한 방어자가 시스템의 작동을 숨기고 영향을받는 당사자 통지 및 호소 권리를 침해하지 않았다 것을 민주화함으로써 AI 방위를 지원합니다. 방어자가 AI 또는 잘못의 사용을 숨길 때, 법원과 규제 기관은 무시하거나 의도적 인 오콘 덕트를 증명하는 것을 촉구합니다. 조직은 소비자 불만, 호소 및 인간의 리뷰가 알고리즘의 권장 사항을 오버로드하는 인스턴스를 유지해야하며 이러한 기록이 활성 모니터링과 보정을 보여줍니다. 관행에 대한 인공 지능 법, 이러한 지배 구조체는 지금 표준 때문에 diligence 구성 요소입니다.

배포하기 전에 조직은 알고리즘의 의도한 사용, 교육 데이터 소스 및 구성, 테스트 데이터 세트에 성능 지표, 알려진 제한 또는 biases 및 장소에 대한 인간의 통찰력 메커니즘을 생성하고 유지해야합니다. 이 문서는 방어적인 예상 잠재적 위험을 보여 때문에 AI 방위에 대한 기초 역할을하고 그 단계를 수행. AI가 해를 일으키는 원인이 된 모든 것이 일반화되면 수비수는 시스템이 테스트되었기 때문에, 위험은 이해되고 인간의 통제가 일어났다. , 문서가 비소 또는 부패 인 경우, 법정은 수비자가 적절하게 시스템을 침몰하지 않았다는 것을 주장하는 평야의 negligence 청구를 강화. 조직은 또한 식별 된 문제에 대한 응답으로 인해 발생하는 모든 포스트 배포 모니터링, 성능 감사 및 정확한 작업을 문서해야합니다. 이 레코드를 생성하여 방어자의 책임은 AI 시스템에 대한 배포에 끝나지 않았지만 적극적인 감독을 통해 계속되었습니다. Practitioners는 클라이언트를 조언합니다 인공 지능 및 관련 분야 점점 더 많은 상담 클라이언트는 핵심 위험 관리 기능으로 알고리즘 지배를 치료, afterthought.