6. AI와 함께 사는 시대(윤리저작권)

1. Hallucination(환각): 실제로는 존재하지 않거나, 잘못된 정보를 보여주는 것

AI 관련 윤리에서 대표적인 위험 요소가 환각, 저작권, 개인정보에서 발생한다.

AI에 학습된 내용에 한계가 있기 때문에, 답변을 생성하는데 있어서 의도와 벗어난 동작을 하게 된다. 정확히는 오작동 또는 오류가 아니라 확률과 예측의 특성 때문에 발생하게 되는 현상이다.

환각을 줄일 수 있는 방법은 여러가지가 있지만, 온도값을 낮추거나 제한점을 설계하거나, 추가 학습 등 방법을 적용하며 줄인다.(줄이는거지, 완벽히 없앨 수는 없다.)

 

환각은 왜 AI 관련 윤리 문제에 있어서 치명적일까?

- 그릇된 내용이 그대로 사용자에게 전달될 수 있다. 

환각에 대응하는 방법?

- 당연하게도 AI가 생성한 답변을 꼭 검증을 해봐야 한다

-AI가 우리의 업무를 편하게 해주는 것은 맞지만, 그래도 항상 AI가 정확한 답변을 생성했는지 검증하고 검토하고 검수해야만 한다.

2. 개인 정보 침해, Red Flage(위험 징후)

개인정보 침해: 특정된 어떤 사람에 대한 정보를 무단으로 수집, 사용, 유출 등 목적에서 벗어난 모든 활동을 의미

Red Flag: 위험 징후 (뭔가 위험할 것 같은데?라는 느낌에 사용되는 보안 용어)

 

AI로 인한 개인정보 침해는?

-사용자가 해킹 관련된 AI가 특정 인물에 대한 정보를 취득

-AI가 특정 인물에 대한 진실과 거짓된 정보를 합쳐 생성한 답변

개인정보침해에 대응하기 위한 방법

-애초에 민감한 정보 및 개인정보에 대해서는 AI에게 입력하지 말 것

-후처리를 통해 Red Flag가 보이는 정보는 전부 검열할 것

-직접적인 허락을 구할 것

-반드시 목적에 맞는 범위에서 사용할 것

-특히 의료, 국방, 행정, 금용, 미성년 자료는 더욱 엄격하다

3. 저작권과 출처 표기

저작권: 저작권법에 의해, 독창성과 저작권을 인정받을 수 있도록 보호를 받는 특정 생성물을 의미

-> 저작물로 인정받기 위해서는 반드시 생성자의 사상과 감정이 독자적으로 독창성 있게 투영된 생성물이어야 함

-> 독창성이 없으면 저작물로 인정받기 어렵다. (ex. 안녕! 잘자!)

저작권법: 저작권자의 권리를 보장하고 무분별한 저작물의 남용을 막고 보호하기 위한 법률을 의미해요.

 

어떤 경우에 저작권 침해가 발생하느냐?

-원 저작권자의 동의 없이 2차 창작물을 생성한다

-원 저작권자의 동의 없이 저작물의 정보를 변경 및 활용하는 모든 것

히히 내꺼다! < 이거 너무 귀여우심

저작권 침해에 대응하기 위한 방법

-고의가 아니라 실수라도 저작권 침해가 발생할 수 있으니

-저작권자에 대한 출처 표기를 해야한다

-AI 생성물을 이용한다.

-대외용인지 사내용인지 공개 범위를 항상 확인할 것

-출처가 불명확한 정보는 함부로 취득 및 활용하지 말 것

-Red Flag가 느껴진다면 검토하고 사용해야 한다

 

Quiz.

다음 중 생성형 저작물에 해당하지 않는 것은? - 4번. 인공지능이 단순 생성한 1차 생성물

저작권법에 의해 보호받는 대상을 (저작물) 이라고 한다.

데이터 3법 중에서 개인 신용에 대한 정보를 다루는 법은? - 신용 정보법

개인 정보란? - 특정 대상에 대한 특징할 수 있는 정보 (이름, 나이, 키, 주민번호 등)

 

과제: AI로 인한 저작권 침해 문제 사례와 해결방안을 고민하여 작성해보기. 또는 AI 저작권법에 대한 본인 생각과 개정안을 작성해보기

 

나는 AI 저작권 침해 사례를 AI를 통해 살펴보았다^^ 사실 Json 방식 프롬프트를 다시 써보고 싶었다. 5개 정도 제시하라고 적었고, 위키백과를 참고해서 적은 글들은 다 지웠다... (사실 나무위키, 위키백과 잘 보지만 논문을 쓸때나, 이런 TIL 작성할때는 안쓰고 싶다.)

AI로 인한 저작권 침해 사례와 해결방안

---

1. The New York Times vs OpenAI 사건 (2023~)

사건 개요

미국 대표 언론사인 The New York Times는 OpenAI와 Microsoft를 상대로 저작권 침해 소송을 제기하였다.

뉴욕타임스는 자사의 수백만 개 기사들이 허가 없이 AI 학습 데이터로 사용되었으며, ChatGPT가 특정 질문에 대해 자사 기사 내용을 거의 그대로 재현한다고 주장하였다. 법원은 핵심 저작권 침해 주장에 대해 사건 진행을 허용하였다. (NPR)

---

핵심 쟁점

① 뉴스 기사 무단 학습

• 언론사의 콘텐츠가 무상으로 AI 학습에 사용됨

② 원문 재생산 문제

• AI가 기사 내용을 거의 그대로 출력

③ 수익 침해

• 사용자가 언론사 홈페이지 방문 없이 AI 답변만 확인

---

해결방안

기술적 해결

• 특정 문장의 장문 재생산 차단
• 원문 출력 제한 알고리즘 적용

경제적 해결

• 언론사와 AI 기업 간 콘텐츠 라이선스 계약 체결
• 수익 공유 모델 도입

정책적 해결

• AI 학습 데이터 출처 공개 의무화
• 저작권자 보상 기금 설립

---

2. 작가협회(Authors Guild) vs AI 기업 사건

사건 개요

미국 작가 단체인 Authors Guild와 여러 소설가들은 AI 기업들이 수많은 전자책과 소설을 허가 없이 학습에 사용했다고 주장하며 집단소송을 제기하였다.

대표적으로 소설가들의 작품이 AI의 학습 데이터에 포함되어 있었고, AI가 특정 작가의 문체를 모방하는 결과물을 생성할 수 있다는 점이 문제가 되었다. (The Authors Guild)

---

핵심 쟁점

① 책 전체 무단 학습

• 작가 동의 없이 작품 사용

② 문체 모방

• 특정 작가의 창작 스타일 재현

③ 창작 시장 침해

• AI가 인간 작가를 대체할 가능성

---

해결방안

라이선스 체계 구축

• 출판사·작가와 정식 계약 체결

보상 시스템

• 학습 데이터 기여도에 따른 수익 배분

AI 투명성 강화

• 어떤 작품이 학습에 사용되었는지 공개

---

3. 음악 산업 vs Suno · Udio 사건

사건 개요

AI 음악 생성 서비스인 Suno와 Udio는 기존 음원들을 학습하여 새로운 음악을 생성한다.

이에 음악 산업과 연주자 단체들은 자신들의 음악이 허가 없이 AI 학습에 사용되었다고 주장하며 법적 대응에 나섰다. 최근 미국 음악인 노조도 관련 소송을 제기하였다. (Reuters)

---

핵심 쟁점

① 음원 무단 학습

• 음악가 동의 없이 데이터 활용

② 목소리 모방

• 특정 가수의 음색 재현 가능

③ 경제적 피해

• AI 음악이 기존 시장을 잠식

---

해결방안

기술적 해결

• 유명 가수 음성 모방 차단
• 음원 추적 시스템 구축

법적 해결

• 음원 학습 시 사전 허가 의무화

산업적 해결

• AI 음악 로열티 분배 시스템 도입

---

종합 정리

AI 저작권 침해 문제는 크게 세 가지 유형으로 나뉜다.

유형대표 사례문제점

이미지	Getty Images vs Stability AI	무단 이미지 학습
텍스트	New York Times vs OpenAI	기사 무단 학습 및 재생산
문학	Authors Guild 소송	소설 무단 학습
음악	Suno·Udio 논란	음원 및 음성 학습

---

오늘의 핵심 한 줄 정리

생성형 AI의 저작권 문제는 단순히 "AI가 베꼈는가?"가 아니라, 학습 데이터의 사용 권한, 생성 결과의 유사성, 그리고 창작자에게 정당한 보상이 이루어지는가를 둘러싼 새로운 법적·윤리적 논쟁이라고 볼 수 있다.