예시 실습
이 핸즈온랩은 교육 내용을 보여 드리기 위한 예시입니다. 실제 교육과정에서는 고객사의 산업과 직무를 반영한 실습 시나리오로 구성한 비공개 학습 사이트를 따로 제공합니다.
M1-1. 책임 있는 AI 원칙
한 줄 요약 — 생성형 AI의 위험·한계를 유형별로 이해하고, 윤리적·책임 있는 사용과 유해성 완화 전략을 익힙니다. (GH-300 도메인 1 · “Understand responsible AI principles”)
1. 생성형 AI의 위험과 한계
| 위험 | 설명 |
|---|---|
| 환각(Fabrication) | 그럴듯하지만 틀린 코드·API·사실을 생성 |
| 편향(Bias) | 학습 데이터의 편향이 제안에 그대로 반영 |
| 보안 취약점 | 안전하지 않은 패턴(하드코딩 시크릿·인젝션)을 제안할 수 있음 |
| 저작권·라이선스 | 공개 코드와 유사한 제안이 라이선스 리스크를 유발 |
| 과의존(Over-reliance) | 검증 없이 받아들이면 결함이 그대로 배포됨 |
2. 윤리적·책임 있는 사용
- 투명성 — AI가 생성한 코드임을 팀과 리뷰어에게 알린다
- 공정성 — 편향 가능성을 인지하고 다양한 시나리오로 점검
- 책임성(Accountability) — 최종 책임은 코드를 병합하는 사람에게 있다
- 프라이버시 — 민감 데이터를 프롬프트·컨텍스트에 노출하지 않는다 (→ M6)
3. 잠재적 유해성과 완화 전략
| 유해성 | 완화 전략 |
|---|---|
| 틀린 코드 병합 | 리뷰·테스트로 검증 (→ M1-2) |
| 취약한 코드 | 보안 스캔·공개 코드 매칭 필터 (→ M6) |
| 라이선스 위반 | duplication detection 필터 활성화 |
| 민감정보 유출 | 콘텐츠 제외·데이터 정책 |
핵심 정리
- 대표 위험 = 환각·편향·보안·저작권·과의존
- 책임 있는 사용 = 투명성·공정성·책임성·프라이버시
- 각 유해성에는 짝지어진 완화 전략이 있다 — 시험은 이 매핑을 자주 묻는다
M1 허브로 → 다음: 출력 검증·책임 있는 운영