AI가 의식을 가진다면, 법적으로도 사람이 될 수 있을까?

e-Person과 e-Personhood로 살펴보는 AI의 법적 지위와 책임

나는 2022년 11월 30일 ChatGPT가 공개된 이후 지금까지 AI를 배우고 활용하며, 대학에서 학생들에게 가르치고 있다. AI의 발전 과정을 가까이에서 지켜보다 보니 자연스럽게 AI가 만들어 갈 미래세계에 관심을 가질 수밖에 없다.

 

초기의 ChatGPT는 사람의 질문에 답하는 대화형 AI에 가까웠다. 그러나 지금의 AI는 사람이 목적을 제시하면 여러 단계를 계획하고 도구를 사용하여 과업을 수행하는 AI 에이전트(AI Agent, 자율적으로 목표를 수행하는 인공지능)로 발전하고 있다. 컴퓨터와 서버 안에서 작동하던 AI도 로봇·자동차·기계와 결합하여 현실세계에서 행동하는 피지컬 AI(Physical AI)로 확장되고 있다.

 

앞선 글에서는 이러한 발전이 기술적 특이점으로 이어질 수 있는지, 나아가 AI가 의식을 가질 수 있는지를 살펴보았다. 그런데 AI의 의식을 생각하다 보니 또 하나의 현실적인 질문과 마주하게 되었다.

 

AI가 인간의 직접적인 지시 없이 판단하고 행동하여 사회적 결과를 만든다면, 그 결과에 대한 권리와 책임은 누구에게 돌아가야 할까? AI도 법적으로 하나의 ‘사람’이 될 수 있을까?

 

이 질문에서 등장한 개념이 e-Person과 e-Personhood, 곧 ‘전자인’과 ‘전자인격’이다.

전자인격은 AI를 인간으로 인정한다는 뜻일까?

e-Person은 법률이 일정한 권리와 의무를 부여한 인공지능 또는 자율로봇을 가정하는 개념이다. e-Personhood는 그러한 인공적 존재에 부여하는 전자적 법인격을 말한다.

 

여기에서 반드시 구분해야 할 것이 있다. AI의 지각력(Sentience, 고통이나 감정을 주관적으로 경험하는 능력)과 법적 인격(Legal Personhood)은 같은 개념이 아니다.

 

AI가 실제로 감정이나 의식을 지녔는지는 아직 확인되지 않았다. 그러나 의식이 없더라도 법률은 사회적 필요에 따라 제한적인 법적 지위를 부여할 수 있다. 회사가 생물학적 인간은 아니지만 법인으로서 계약을 체결하고 재산을 보유하며 소송의 당사자가 되는 것과 비슷한 원리다.

 

따라서 전자인격은 AI를 인간과 동등한 존재로 인정하자는 주장이 아니다. 고도의 자율성을 가진 AI의 계약·재산·손해·책임을 법질서 안에서 누구에게, 어떤 방식으로 귀속할 것인가에 관한 제도적 개념이다.

 

법학자 비자 쿠르키(Visa Kurki)는 법인격을 하나의 완성된 신분이 아니라 권리·능력·책임이 결합한 ‘묶음(Bundle)’으로 설명한다. 이 관점에 따르면 AI에 인간과 같은 완전한 인격을 부여하지 않고도 계약능력·재산보유·보험가입·소송능력·손해배상책임만 선택적으로 인정할 수 있다.

전자인격은 누가 처음 주장했을까?

현대 AI 법인격 논의의 대표적인 학문적 출발점은 미국 법학자 로런스 솔럼(Lawrence B. Solum)의 1992년 논문 「Legal Personhood for Artificial Intelligences」이다. 솔럼은 AI가 법적 주체나 수탁자와 같은 역할을 수행할 수 있는지를 본격적으로 검토했다. 다만 당시 컴퓨터가 실제 법인격을 부여받을 능력을 갖추었다고 주장한 것은 아니었다.

 

‘Electronic Person’이라는 표현을 국제적인 정책 의제로 부각한 대표적 인물은 유럽의회 의원 마디 델보(Mady Delvaux)였다. 그는 2016년 로봇 민사법 보고서 초안을 작성했고, 이를 바탕으로 유럽의회는 2017년 「로봇 민사법 규칙에 관한 결의」를 채택했다.

 

따라서 솔럼은 AI 법인격의 학문적 선구자이고, 델보는 전자인격을 유럽의 정책 의제로 구체화한 대표적 제안자라고 할 수 있다.

AI시대에 왜 전자인격이 등장했을까?

초기의 기계는 인간이 입력한 명령을 그대로 수행하는 도구였다. 문제가 발생하면 제조자나 사용자의 책임을 비교적 쉽게 판단할 수 있었다.

그러나 학습형 AI는 환경과 데이터를 분석하여 인간이 일일이 지시하지 않은 결과를 만들어 낸다. AI 에이전트는 주문·결제·계약·투자와 같은 경제활동을 수행할 수 있고, 자율주행차와 로봇은 현실세계에서 사람과 재산에 직접 영향을 미친다.

 

이때 AI가 사고나 손해를 일으키면 책임 귀속이 복잡해진다. 개발자·제조자·소유자·운영자·사용자 가운데 누가 어느 범위까지 책임져야 하는가? AI의 학습과 자율적 판단으로 구체적인 결과를 예측하기 어려워질수록 과실과 인과관계를 입증하기도 어려워질 수 있다.

 

기존 법체계가 이러한 문제를 충분히 처리하지 못하는 경우를 책임공백(Responsibility Gap) 또는 법적 책임격차(Liability Gap)라고 한다. 전자인격은 이 공백을 줄이고 AI의 계약·재산·보험·손해배상 관계를 분명하게 만들기 위한 하나의 대안으로 등장했다.

 

그러나 AI가 자동으로 계약하고 결제한다고 해서 반드시 독립된 법인격이 필요한 것은 아니다. AI를 전자행위주체(Electronic Agent)로 인정하되 그 행위의 법적 효과를 AI를 사용한 자연인이나 기업에 귀속하는 방식도 가능하다. 실제로 현재의 법정책은 전자인격보다 이러한 방식에 더 가깝다.

유럽은 AI를 전자인으로 인정했을까?

결론부터 말하면 유럽은 전자인격을 실제 법률로 도입하지 않았다.

2017년 유럽의회 결의 제59(f)항은 모든 AI를 사람으로 인정하자는 내용이 아니었다. 장기적으로 가장 정교한 자율로봇이 독립적으로 판단하거나 제3자와 상호작용하여 손해를 일으킨 경우, 그 손해를 배상할 수 있는 ‘전자적 인격’의 도입 가능성을 검토하자는 제안이었다.

 

이 결의는 유럽연합 집행위원회에 입법 가능성을 검토하도록 권고한 비구속적 결의였다. 따라서 “유럽이 AI에 전자인격을 부여했다”거나 “AI가 유럽에서 법적 사람이 됐다”고 표현하면 사실과 다르다.

 

이후 유럽의 실제 규제 방향도 전자인격과는 거리를 두었다. EU AI Act는 AI 자체를 책임주체로 만들지 않고 AI의 제공자(Provider)·배포자(Deployer)·수입자·유통업자 등 기존 자연인과 법인에게 위험관리·기록·투명성·인간 감독 등의 의무를 부과한다.

 

EU AI Act는 주로 AI의 위험과 시장규제를 다루는 법이므로 손해배상책임 전체를 정하는 법은 아니다. 손해배상 문제는 회원국의 민사책임법과 제조물책임법 등이 함께 처리한다. 특히 EU는 2024년 개정 제조물책임지침에서 소프트웨어를 제품의 범위에 포함하고, AI 업데이트나 지속적 학습과 관련된 결함도 제조물책임 체계에서 다룰 수 있도록 했다.

 

유럽은 결국 “AI가 자율적으로 행동하므로 AI에게 책임을 지우자”는 방향보다 “AI를 개발하고 통제하며 이익을 얻는 인간과 기업의 책임을 분명히 하자”는 방향을 선택한 것이다.

우리나라는 어디까지 논의했을까?

우리나라에서도 전자인격을 법제화하려는 시도가 있었다.

2017년 박영선 의원이 발의한 「로봇기본법안」은 자율성을 가진 정교한 로봇에 ‘전자인간’의 법적 지위를 부여하는 방안을 심의 대상으로 제시했다.

 

2024년 5월 김웅 의원이 대표발의한 「전자인법안」은 권리능력을 부여받은 AI를 ‘전자인’으로 정의했다. 주무관청의 허가를 통해 전자인이 성립하고, 정해진 목적 범위에서 권리와 의무를 가지며, 불법행위로 발생한 손해에 대해서도 책임을 부담하도록 설계했다. 그러나 이 법안은 제21대 국회 임기만료로 폐기됐다.

 

2025년 제정되어 2026년 1월 22일부터 시행된 우리나라 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」도 전자인격을 도입하지 않았다. 현행법은 고영향 AI나 생성형 AI를 이용한 제품·서비스를 제공할 때 AI에 기반해 운용된다는 사실을 이용자에게 사전 고지하도록 한다. 또한 생성형 AI의 결과물에는 AI가 생성했다는 사실을 표시하도록 규정한다.

 

우리나라 역시 AI 자체를 자연인이나 법인과 같은 책임주체로 인정하기보다 AI를 개발·제공·운영하는 사업자의 투명성·안전성·신뢰성 의무를 강화하는 방향을 택한 것이다.

 

전자인격은 책임의 주체인가, 책임회피의 방패인가?

전자인격을 인정하면 AI의 계약 당사자를 명확하게 하고, AI별로 책임재산과 의무보험을 마련하여 피해자를 신속하게 구제할 수 있다는 장점이 있다.

 

그러나 더 큰 위험도 있다. 기업이 재산이 거의 없는 AI를 별도의 법적 주체로 만든 뒤 사고에 대한 책임을 모두 AI에게 떠넘길 수 있기 때문이다.

 

조애나 브라이슨(Joanna J. Bryson), 미하일리스 디아만티스(Mihailis E. Diamantis), 토머스 그랜트(Thomas D. Grant)는 2017년 논문에서 합성적 존재에 법인격을 부여하는 것이 도덕적으로 불필요하고 법적으로 위험할 수 있다고 비판했다. 전자인격이 피해자를 보호하는 책임주체가 아니라 배후의 인간과 기업이 책임을 회피하는 법적 방패가 될 수 있다는 것이다.

 

AI는 고통을 느끼거나 처벌의 의미를 이해한다고 입증되지 않았다. 재산이나 소득도 없는 AI에게 손해배상이나 형벌을 부과하는 것은 실질적인 책임이 되기 어렵다. 전자인격을 도입하더라도 개발자·제공자·운영자의 고의와 과실, 안전관리 의무까지 사라져서는 안 되는 이유다.

AI의 권리보다 먼저 인간의 책임을 물어야 한다

AI가 의식을 가질 수 있는가라는 질문은 인간과 기계의 경계를 다시 생각하게 한다. 전자인격은 이 철학적 질문을 법과 제도의 현실로 가져온다.

그러나 지금 우리에게 더 시급한 문제는 AI를 인간과 같은 사람으로 인정할 것인가가 아니다. AI가 독립적으로 만들어 낸 사회적 결과와 손해를 누구에게, 어떤 기준으로 귀속할 것인가이다.

현 단계에서는 완전한 전자인격보다 단계적인 책임체계를 먼저 마련하는 것이 현실적이다.

 

첫째, AI가 수행한 계약과 거래의 결과를 사용자나 운영기업에 귀속해야 한다.

 

둘째, 고위험 AI에는 등록번호를 부여하고 의사결정 과정과 작동기록을 보존하도록 해야 한다.

 

셋째, 의무보험이나 보상기금을 마련하여 피해자를 우선 구제해야 한다.

 

넷째, 개발자·제공자·운영자의 안전의무와 최종적인 책임을 유지해야 한다.

 

다섯째, 기존 책임법으로 해결되지 않는 구조적 책임공백이 실제로 확인될 때에만 계약·책임재산·보험·소송능력에 한정된 ‘제한적 전자인격’을 검토해야 한다.

 

앞선 글에서 던진 질문이 “AI가 의식을 가질 수 있을까?”였다면, 이번 글을 통해 도달한 질문은 이것이다.

AI도 사람이 될 수 있는가보다 먼저, AI가 만든 결과를 누가 책임질 것인가를 물어야 한다.

 

AI의 인간 유사성이 전자인격 도입의 기준이 되어서는 안 된다. 피해자 보호, 책임의 명확성, 인간 존엄의 우선, 기술의 통제 가능성이 그 기준이 되어야 한다.

 

AI시대에 필요한 것은 AI를 서둘러 사람으로 만드는 법이 아니라, AI가 자율적으로 행동할수록 그 배후의 인간과 기업이 더 분명하게 책임지도록 만드는 법이다.

---

참고 자료

1. Lawrence B. Solum, 「Legal Personhood for Artificial Intelligences」
2. European Parliament, 「Civil Law Rules on Robotics」, 2017
3. European Union, 「Artificial Intelligence Act」
4. European Union, 「Product Liability Directive (EU) 2024/2853」
5. 김나래, 『전자인격의 도입에 관한 연구』, 한국법학원, 2024
6. 국가법령정보센터, 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」
7. Bryson·Diamantis·Grant, 「Of, for, and by the People: The Legal Lacuna of Synthetic Persons」
8. Visa Kurki, 『A Theory of Legal Personhood』