AI가 의식을 가진다면, 법적으로도 사람이 될 수 있을까?

e-Person과 e-Personhood로 살펴보는 AI의 법적 지위와 책임

나는 2022년 11월 30일 ChatGPT가 공개된 이후 지금까지 AI를 배우고 활용하며 대학에서 학생들에게 가르치고 있다. 몇 년 사이 AI가 빠르게 변화, 발전해가는 것을 가까이에서 지켜보면서 나는 단순히 “AI가 얼마나 똑똑해질까?”보다 더 근본적인 질문에 직면하게 되었다.

 

초기의 ChatGPT는 사람의 질문에 답하는 대화형 AI에 가까웠다. 그러나 지금의 AI는 사람이 목적을 제시하면 여러 단계를 계획하고 도구를 사용하여 과업을 수행하는 AI 에이전트(AI Agent)로 발전하고 있다. 컴퓨터와 서버 안에서 작동하던 AI도 로봇·자동차·기계와 결합하면서 현실세계에서 행동하는 피지컬 AI(Physical AI)로 나날이 발전, 확장되고 있다.

 

나는 대학에서 생성형 AI를 가르치면서 이런 변화를 단순한 기술 발전으로만 보기 어렵다고 생각하게 되었다. AI가 말을 생성하는 단계에서 스스로 여러 작업을 수행하는 단계로 이동할수록, 기술의 문제는 점점 법과 윤리, 책임의 문제로 바뀌어 가고 있기 때문이다.

 

AI의 발전을 지켜보다 보면 자연스럽게 더 근본적인 질문에 이르게 된다. AI는 앞으로 언젠가는 의식을 가질 수 있을까? 그리고 AI가 더욱 자율적으로 판단하고 행동하는 단계로 나아간다면, 법과 책임의 문제는 어떻게 달라질까?

 

AI가 인간의 직접적인 지시 없이 판단하고 행동하여 사회적 결과를 만든다면, 그 결과에 대한 권리와 책임은 누구에게 돌아가야 할까? AI도 법적으로 하나의 ‘사람’이 될 수 있을까?

 

이 질문에서 등장하는 개념이 e-Person과 e-Personhood, 곧 ‘전자인’과 ‘전자인격’이다.

---

전자인격은 AI를 인간으로 인정한다는 뜻일까?

먼저 가장 많이 오해할 수 있는 부분부터 구분해야 한다.

e-Person은 법률이 일정한 권리와 의무를 부여한 인공지능 또는 자율적 인공시스템을 가정할 때 사용하는 개념이고, e-Personhood는 그러한 존재에 일정한 법적 지위를 부여하는 전자적 법인격을 뜻한다.

 

그러나 이것은 곧바로 “AI를 인간으로 인정한다”는 뜻이 아니다.

여기에서 반드시 구분해야 할 것이 있다.

**AI의 지각력(Sentience)과 법적 인격(Legal Personhood)은 같은 개념이 아니다.**

Sentience는 고통이나 감정 등을 주관적으로 경험할 수 있는 능력의 문제다. 반면 법적 인격은 법률이 어떤 존재를 권리와 의무의 주체로 취급할 것인가의 문제다.

 

현재 AI가 실제로 의식이나 감정을 경험한다고 확인된 것은 아니다. 그러나 법적 인격은 반드시 생물학적 인간에게만 주어지는 것도 아니다.

 

회사가 좋은 예다. 회사는 인간처럼 숨 쉬거나 감정을 느끼지 않지만 법인으로서 계약을 체결하고 재산을 보유하며 소송의 당사자가 된다.

 

따라서 전자인격 논의의 핵심은 AI에게 인간과 동일한 존엄이나 시민권을 부여하자는 것이 아니다.

핵심 질문은 이것이다.

 

> **고도의 자율성을 가진 AI가 계약하고 재산을 관리하며 손해를 일으킬 경우, 그 법적 효과와 책임을 누구에게 어떤 방식으로 귀속할 것인가?**

 

법철학자 비자 쿠르키(Visa A. J. Kurki)는 법인격을 하나의 완성된 신분이라기보다 여러 권리·능력·책임이 결합된 다발적 속성, 즉 ‘클러스터 속성(cluster property)’으로 설명한다.

 

이 관점은 매우 중요한 시사점을 보여 준다.

AI에게 인간과 같은 완전한 법인격을 부여하지 않고도 필요하다면 계약능력·재산관리·보험·소송능력 등 일부 법적 기능만 제한적으로 부여하는 방식을 생각할 수 있기 때문이다.

---

전자인격은 어디에서 시작된 논의일까?

현대 AI 법인격 논의에서 자주 언급되는 학문적 출발점 가운데 하나는 미국 법학자 로런스 솔럼(Lawrence B. Solum)의 1992년 논문 「Legal Personhood for Artificial Intelligences」이다.

 

솔럼은 인공지능이 법률상 권리와 의무의 주체가 될 가능성을 검토했다. 그러나 당시 컴퓨터가 실제로 법인격을 가질 단계에 도달했다고 주장한 것은 아니었다. 중요한 것은 이미 1990년대 초에 “인공적 지능이 법적 주체가 될 수 있는가?”라는 질문이 법학의 연구주제로 등장했다는 점이다.

 

‘Electronic Person’이라는 표현을 국제적인 정책 논의로 크게 부각한 계기는 유럽의회였다.

마디 델보(Mady Delvaux)가 주도한 보고서를 바탕으로 유럽의회는 2017년 「로봇 민사법 규칙에 관한 결의」를 채택했다.

이 결의에는 장기적으로 매우 정교한 자율로봇에 대해 특정한 법적 지위를 검토할 수 있다는 제안이 포함되었다.

 

따라서 솔럼은 AI 법인격 논의를 이론적으로 선구적으로 제기한 연구자 가운데 한 사람이고, 델보와 유럽의회 논의는 이를 실제 정책 의제로 끌어올린 중요한 계기로 볼 수 있다.

---

AI시대에 왜 전자인격 문제가 등장했을까?

초기의 기계는 인간이 입력한 명령을 그대로 수행하는 도구였다.

기계가 잘못 작동하면 제조자·소유자·사용자의 책임을 비교적 쉽게 추적할 수 있었다.

그러나 학습형 AI와 AI 에이전트가 등장하면서 상황은 복잡해지고 있다.

 

AI는 데이터를 분석하여 결과를 생성하고, 여러 단계를 스스로 계획하며, 외부 도구와 연결되어 거래·예약·결제·정보처리 등을 수행할 수 있다.

 

피지컬 AI가 자동차·로봇·기계와 결합하면 그 판단은 화면 안에 머물지 않고 사람과 재산에 직접 영향을 줄 수도 있다.

그렇다면 문제가 생겼을 때 누구의 책임일까?

 

개발자인가?

 

AI 모델을 제공한 기업인가?

 

제품 제조자인가?

 

서비스 운영자인가?

 

AI를 사용한 사람인가?

 

AI가 여러 시스템과 결합하여 행동한다면 책임의 경계는 더욱 복잡해진다.

이처럼 자율적 시스템의 작동으로 손해가 발생했지만 기존의 책임구조만으로 책임자를 분명하게 특정하기 어려운 문제를 책임공백(Responsibility Gap) 또는 책임격차의 문제로 논의하기도 한다.

 

전자인격은 이러한 책임공백을 해결하기 위해 제시된 여러 아이디어 가운데 하나였다.

그러나 여기서 중요한 사실이 있다.

 

**AI가 자율적으로 행동한다고 해서 반드시 AI 자체에 법인격을 부여해야 하는 것은 아니다.**

AI의 행동 결과를 그것을 개발·제공·소유·운영하거나 활용한 자연인이나 기업에 귀속하는 방식도 가능하다.

 

실제로 현재 주요 법제의 흐름은 AI 자체를 독립적인 법적 사람으로 만드는 것보다 AI를 둘러싼 인간과 기업의 의무와 책임을 구체화하는 방향에 더 가깝다.

---

유럽은 AI를 ‘전자적 사람’으로 인정했을까?

결론부터 말하면 **아니다.**

2017년 유럽의회 「로봇 민사법 규칙에 관한 결의」는 AI나 로봇에게 실제 법인격을 부여한 법률이 아니다.

해당 결의는 장기적으로 가장 정교한 자율로봇에 대해 ‘전자적 인격’이라는 특정 법적 지위를 검토하는 방안을 제안했다.

그러나 이 결의는 집행위원회에 입법 방향을 권고하는 비구속적 결의였다.

 

따라서

“EU는 AI를 전자인으로 인정했다.”

“유럽에서는 AI가 법적으로 사람이 되었다.”

라고 표현하면 정확하지 않다.

이후 실제 유럽의 규제는 전자인격과 다른 방향으로 발전했다.

 

EU AI Act는 AI 자체를 권리와 의무의 독립 주체로 만들지 않는다. 대신 AI의 제공자(Provider), 배포자(Deployer), 수입자(Importer), 유통업자(Distributor) 등 기존 자연인과 법인에게 위험관리·기록·투명성·감독 등의 의무를 부과한다.

 

즉 법의 질문은

**“AI에게 어떤 권리를 줄 것인가?”**

보다

**“AI를 만들고 공급하고 사용하는 사람과 기업이 어떤 의무를 져야 하는가?”**

에 더 가깝다.

 

EU의 2024년 개정 제조물책임지침 역시 소프트웨어를 제품 범위에 포함하면서 새로운 디지털 제품과 AI로 인한 손해를 기존 제조물책임 체계 안에서 다룰 수 있도록 정비했다.

 

유럽은 결국 AI에게 책임을 넘기는 것보다 **AI를 통제하고 경제적 이익을 얻는 인간과 기업의 책임을 더 분명하게 만드는 방향**을 선택하고 있다.

---

우리나라에서도 ‘전자인’ 법안이 발의된 적이 있다

우리나라에서도 AI와 로봇의 법적 지위를 별도로 규정하려는 시도가 있었다.

2017년 박영선 의원 등이 발의한 「로봇기본법안」에서도 자율성을 가진 로봇의 전자적 인격에 관한 아이디어가 제시되었다.

보다 직접적인 법안은 2024년 5월 27일 김웅 의원 등 10인이 발의한 「전자인법안」이다.

 

이 법안은 권리능력을 부여받은 인공지능을 ‘전자인’으로 정의하고, 주무관청의 허가를 받아 성립하도록 하며, 정관으로 정한 목적 범위에서 권리와 의무의 주체가 되도록 설계했다.

 

불법행위 책임도 전자인에게 부과할 수 있도록 했다.

그러나 이 법안은 2024년 5월 29일 제21대 국회 임기만료로 폐기되어 법률로 제정되지는 않았다.

그리고 현재 시행 중인 우리나라 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」, 이른바 인공지능기본법도 전자인격을 도입하지 않았다.

 

현재 법은 AI 자체를 자연인이나 법인과 같은 책임주체로 만들기보다 AI 사업자의 의무를 중심으로 규율한다.

예를 들어 제31조는 고영향 AI나 생성형 AI를 이용한 제품·서비스를 제공할 때 AI에 기반해 운용된다는 사실을 사전에 고지하도록 하고, 생성형 AI의 결과물에는 AI가 생성했다는 사실을 표시하도록 규정한다.

우리나라 역시 현재까지는

 

**“AI에게 인격을 부여한다.”**

 

보다

**“AI를 개발하고 제공하고 사용하는 인간과 기업의 책임을 강화한다.”**

는 방향에 서 있다고 볼 수 있다.

---

전자인격은 책임의 주체가 될까, 책임회피의 방패가 될까?

전자인격에는 장점도 생각할 수 있다.

AI가 계약 당사자로 활동하고 AI별로 책임재산과 보험을 갖게 한다면 피해가 발생했을 때 책임의 통로를 명확하게 할 가능성이 있다.

 

하지만 바로 여기에서 더 중요한 위험이 나타난다.

기업이 재산이 거의 없는 AI를 별도의 법적 주체로 만든 뒤 사고가 발생했을 때

“그 판단은 AI가 했다.”

 

“AI가 독립적인 법적 주체이므로 AI가 책임져야 한다.”

라고 주장한다면 어떻게 될까?

 

이 경우 전자인격은 피해자를 보호하기 위한 제도가 아니라 배후의 인간과 기업이 책임을 피하는 방패가 될 수도 있다.

조애나 브라이슨(Joanna J. Bryson), 미하일리스 디아만티스(Mihailis E. Diamantis), 토머스 그랜트(Thomas D. Grant)는 2017년 논문에서 합성적 존재에 법인격을 부여하는 것이 도덕적으로 불필요하고 법적으로 문제가 될 수 있다고 비판했다.

 

그들의 핵심 우려 가운데 하나도 바로 **인공적 법인격이 실제 인간의 책임을 흐릴 수 있다는 점**이었다.

현재 AI가 고통을 느끼거나 처벌의 의미를 이해한다는 근거는 확인되지 않았다.

 

따라서 재산도 충분하지 않고 처벌의 의미도 이해하지 못하는 AI에게 책임을 집중시키면 손해배상과 형벌이라는 법의 목적 자체가 약해질 수 있다.

 

전자인격을 논의하더라도 개발자·제공자·운영자의 고의·과실과 안전관리 의무가 사라져서는 안 되는 이유다.

---

삼찰밸업으로 다시 보면 질문이 달라진다

여기에서 나는 이 문제를 내가 연구하고 글쓰기에 적용해 온 ‘삼찰밸업’의 관점으로 다시 보게 된다.

관찰

먼저 현실을 본다.

현재 AI는 점점 더 자율적인 기능을 수행하고 있지만, 유럽과 한국의 현행법은 AI 자체에 독립적인 인격을 부여하지 않고 있다.

법은 주로 AI를 개발·제공·운영·사용하는 인간과 기업에게 책임과 의무를 부과하고 있다.

성찰

다음으로 우리가 왜 AI에게 ‘사람’이라는 지위를 주려 하는지 돌아볼 필요가 있다.

AI가 인간처럼 말하고 판단하는 모습을 보면서 우리는 인간의 특성을 AI에게 쉽게 투영할 수 있다.

그러나 인간처럼 보이는 것과 인간처럼 경험하는 것은 다르며, 인간처럼 행동하는 것과 법적으로 인간이 되는 것도 다르다.

AI를 사람처럼 느끼는 우리의 심리와 실제 법적 필요를 구분해야 한다.

통찰

문제의 본질은 AI의 인간 유사성 자체에 있지 않다.

핵심은 **책임의 귀속**이다.

AI가 더 자율적으로 행동할수록 “AI가 했다”는 말 뒤에 실제 책임자가 숨지 않도록 해야 한다.

AI의 법인격 논의는 결국 AI에게 어떤 권리를 줄 것인가의 문제이기 전에 인간사회가 책임을 어떻게 설계할 것인가의 문제다.

Val-Up

따라서 기술 발전을 더 나은 가치로 올리는 방향은 AI에게 성급하게 인간의 지위를 부여하는 것이 아니다.

피해자는 더 빠르게 보호하고,

AI의 결정 과정은 더 잘 기록하며,

고위험 시스템에는 보험과 보상체계를 마련하고,

AI를 개발·제공·운영하여 이익을 얻는 인간과 기업은 그에 상응하는 책임을 져야 한다.

이것이 기술의 발전을 인간의 책임과 공동체의 가치로 연결하는 Val-Up이다.

---

AI의 권리보다 먼저 인간의 책임을 물어야 한다

AI가 의식을 가질 수 있는가라는 질문은 인간과 기계의 경계를 다시 생각하게 한다.

전자인격은 이 철학적 질문을 법과 제도의 현실로 끌어온다.

 

그러나 지금 우리에게 더 시급한 문제는 AI를 인간과 같은 사람으로 인정할 것인가가 아니다.

**AI가 만들어 낸 결과와 피해를 누구에게 어떤 기준으로 책임지게 할 것인가**이다.

 

현 단계에서는 완전한 전자인격보다 단계적인 책임체계를 먼저 마련하는 것이 현실적이다.

첫째, AI가 수행한 계약과 거래의 법적 효과를 사용자나 운영기업 등 책임 가능한 주체에게 명확하게 귀속해야 한다.

 

둘째, 고위험 AI에는 추적 가능한 식별체계와 충분한 작동기록을 갖추어 사고가 발생했을 때 책임 경로를 확인할 수 있어야 한다.

 

셋째, 필요하다면 의무보험이나 보상기금 등을 통해 피해자를 우선 구제할 수 있어야 한다.

 

넷째, 개발자·제공자·운영자의 안전관리 의무와 책임을 유지해야 한다.

 

다섯째, 기존 책임법으로 해결하기 어려운 구조적 책임공백이 실제로 확인될 때에만 계약·책임재산·보험·소송능력 등 특정 기능에 한정한 제한적 전자인격을 검토할 수 있을 것이다.

 

이 글의 출발점에는 하나의 질문이 있었다.

“AI가 의식을 가질 수 있을까?”

 

그러나 전자인격과 책임의 문제를 살펴보면서 질문의 초점은 조금 달라졌다. 중요한 것은 AI가 인간처럼 보이거나 인간과 비슷한 능력을 보이는가가 아니라, AI가 자율적으로 행동하여 사회적 결과와 손해를 만들었을 때 그 책임을 누구에게 어떻게 귀속할 것인가이다.

 

그래서 이 글의 질문은 다음과 같이 바뀐다.

AI도 사람이 될 수 있는가보다 먼저, AI가 만든 결과를 누가 책임질 것인가를 물어야 한다.

 

AI의 인간 유사성이 전자인격 도입의 기준이 되어서는 안 된다. 그보다 먼저 피해자 보호, 책임의 명확성, 인간 존엄의 우선, 기술의 통제 가능성을 기준으로 삼아야 한다.

 

AI가 더 자율적으로 행동할수록 책임까지 AI에게 넘겨서는 안 된다. 오히려 그 AI를 개발하고 제공하고 운영하며 이익을 얻는 인간과 기업의 책임을 더 분명하게 설계해야 한다.

 

AI시대에 필요한 것은 AI를 서둘러 사람으로 만드는 법이 아니라, AI가 자율적으로 행동할수록 그 배후의 인간과 기업이 더 분명하게 책임지도록 만드는 법이다.

참고 자료

1. Lawrence B. Solum, 「Legal Personhood for Artificial Intelligences」.
2. European Parliament, 「Civil Law Rules on Robotics」, 16 February 2017.
3. Regulation (EU) 2024/1689, Artificial Intelligence Act.
4. Directive (EU) 2024/2853, Product Liability Directive.
5. Visa A. J. Kurki, *A Theory of Legal Personhood*, Oxford University Press, 2019.
6. Joanna J. Bryson, Mihailis E. Diamantis & Thomas D. Grant, “Of, for, and by the People: The Legal Lacuna of Synthetic Persons,” *Artificial Intelligence and Law*, 25, 273–291, 2017.
7. 김웅 의원 등 10인, 「전자인법안」, 의안번호 2126687, 2024. 5. 27.
8. 국가법령정보센터, 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」.
9. 김나래, 『전자인격의 도입에 관한 연구』, 한국법학원, 2024.