Agentic AI (1)

📌 AI 시스템의 사회적 영향

경제적 영향

• 산업 구조 변화: 제조·물류·금융·의료 전반에서 자동화·효율성 증대
• 혁신 가속: 자율주행, 맞춤형 헬스케어, 스마트시티 등 신산업 창출
• 노동시장 재편: 단순 업무 감소, 고급 기술·데이터 일자리 증가 → 일자리 양극화
• 부의 불평등: 대기업 중심 시장 집중 심화

사회적 영향

• 생활 편의 향상: 추천·교육·헬스케어 개인화
• 문화 변화: 콘텐츠 제작 자동화
• 디지털 격차: 활용 능력 차이로 불평등 확대
• 신뢰 문제: 딥페이크·허위정보로 정보 신뢰 하락

---

📌 AI 규제 필요성과 프레임워크

필요성

• 사회 전반 영향 (일자리 구조, 저작권·진위성 문제)
• 새로운 위험 (의료 AI, 자율주행 등)
• 보안 위협 (딥페이크, AI 활용 사이버 공격)
• 설명가능성 부족 (책임·법적 문제)

국가별 접근

• 미국: 산업경쟁력 유지 + 위험 완화
• EU: 위험기반 규제, 강력한 법적 구속력 (EU AI Act)
• 중국: 사회통제 중심 규제
• 한국: 균형적·진흥지향적 법제

---

📌 EU AI Act (유럽연합 인공지능법)

2024년 3월에 통과된 AI 기술의 급속한 발전과 광범위한 적용에 따른 윤리적, 법적, 사회적 영향에 대응하기 위해 마련된 포괄적인 AI 규제 법안

• 위험 기반 분류
  • [Level 1] 수용 불가 위험 → 사용 전면 금지
  • [Level 2] 고위험 → 인프라, 교육, 필수 서비스 → 강한 규제
  • [Level 3] 제한적 위험 → 딥페이크 등 → 투명성 의무 부과
  • [Level 4] 저위험 → 상업·개인용 → 규제 최소

• 투명성 의무
  • AI와 상호작용 중임을 고지
  • 합성 콘텐츠 결과물 표시 의무

---

📌 미국 NIST AI RMF (위험관리 프레임워크, 2023)

• 목적: AI 이점 극대화 + 위험 최소화
• 적용대상: 모든 분야·규모의 조직

AI 신뢰성 7대 특성

1. 유효성·신뢰성
2. 안전성
3. 보안성·회복탄력성
4. 책임성·투명성
5. 설명가능성
6. 프라이버시
7. 공정성·편향 완화

---

📌 Traditional AI vs. Agentic AI

구분	Traditional AI	Agentic AI
목표	외부 명령 수행	목표 설정·재조정
상호작용	입력-출력 중심	환경·에이전트·인간과 지속적 상호작용
의사결정	사전학습 모델 기반	적응적·협력적 의사결정
자율성	제한적	예측불가 상황에서도 자율 대응
협력	개별 성능 최적화	전체 성능 최적화

---

📌 Generative AI vs. Agentic AI

구분	Generative AI	Agentic AI
핵심 개념	콘텐츠 생성 (텍스트·이미지 등)	목표 설정·의사결정 수행
출력	프롬프트 기반 결과	의사결정 + 행동 수행
상호작용	단발적 입력-출력	지속적 협력/협상
자율성	외부 지시 의존	스스로 목표·전략 수립
활용 예	텍스트 작성, 이미지 생성	교통 신호 제어, 위급상황 자율 대응

---

📌 Agentic AI 특징

• 자율성(Autonomy): 목표·의사결정 스스로
• 적응성(Adaptability): 환경 변화 대응
• 협력성(Cooperation): 타 에이전트·인간과 상호작용
• 설명가능성(Transparency): 의사결정 근거 제공
• 확장성(Scalability): 모듈형 확장 가능
• 맥락인식(Context-awareness): 상황 기반 의사결정

---

📌 동작 단계

1. 인식 (Perception): IoT, DB, SNS 등에서 데이터 수집
2. 추론 (Reasoning): 계획·의사결정 수행
3. 행동 (Action): 작업 실행 및 수정
4. 학습 (Learning): 경험 축적, 성능 개선

---

📌 기술 스택

• LLM + RAG: 정보 검색 강화
• 강화학습: 전략적 계획 수립
• 멀티에이전트 시스템: 분산 환경 협력

---

📌 Agentic AI 유형

Cooperative

• 역할 분담 → 전체 목표 최적화
• 예: 교통신호 제어, 스마트팩토리, 디지털포렌식

Collaborative

• 목표를 동적으로 협상·조율
• 예: 출퇴근 시간 교통 처리량 vs 주말 안전성, 사건 유형별 디지털포렌식

---

📌 도전과제

• 연동 복잡성: 기존 시스템 통합 문제
• 정확성: 데이터 품질 의존
• 설명가능성 부족: 블랙박스 의사결정
• 리스크 관리: 개인정보, 보안, 법적 리스크
• 유지보수: 지속적인 감독·테스트 필요

---

📌 Dark AI / Dark LLM

• Dark AI: 딥페이크, 사이버 범죄, 감시·프라이버시 침해, 무기화 등
• Dark LLM: WormGPT, FraudGPT → 악성코드, 피싱, 랜섬웨어 자동화
• 방어 기술: DarkBERT(다크웹 분석), FakeCheck(딥페이크 탐지)

---

📌 The 30% Rule

• AI 70% + 인간 30% 역할 분담

이유

• 윤리적 안전장치 (사회적 가치·법 기준 충족)
• AI 한계 보완 (편향, 오류 방지)
• 인간의 창의성, 공감, 도덕적 판단 보존