Trí tuệ nhân tạo ngày càng phát triển và ứng dụng hiệu quả vào đời sống xã hội thúc đẩy quá trình phát triển kinh tế, có ảnh hưởng đến đời sống văn hóa xã hội. Vấn đề đặt ra cho các nhà quản lý là trí tuệ nhân tạo có được xem như là con người theo quy định của pháp luật không? Hệ thống pháp luật có cần phải thay đổi phù hợp với sự phát triển nhanh chóng của trí tuệ nhân tạo không?

Hiện nay trên thế giới đang tồn tại hai quan điểm đối lập nhau về việc công nhận tính pháp lý cho trí tuệ nhân tạo. Việc xây dựng lộ trình cho hệ thống trí tuệ nhân tạo (AI) được công nhận là con người đang là vấn đề cấp bách cần được nghiên cứu đánh giá một cách có hệ thống bởi điều này chưa được quy định ở bất kỳ hệ thống pháp luật hay phán quyến nào của tòa án hoặc các văn bản sửa đổi khác đối với pháp luật hiện hành ở các quốc gia.

Đầu tiên đi vào phân tích những quan điểm ủng hộ việc xây dựng các quy định pháp lý cho AI theo hướng tiếp cận từ hệ thống máy tính. Trên hệ thống máy tính, bất kỳ ai cũng có thể được trao quyền một cách hợp pháp và đặt trong sự kiểm soát của một công ty. Các hệ thống tự trị không phải là con người thì không được coi là pháp nhân theo quy định hiện hành ở các nước Châu Âu. Lịch sử thực thi pháp luật hiện hành chứng minh các thỏa thuận có thể, với mức độ tự chủ ngày càng tăng, có thể chỉ đạo hành động của các pháp nhân. Các thỏa thuận có cấu trúc giống với các thuật toán; có nghĩa là, một thỏa thuận có thể tác động về hiệu lực pháp lý đối với các pháp nhân một cách rõ ràng, tùy ý như một thuật toán. Do đó, các hệ thống tự trị cuối cùng có thể có khả năng mô phỏng nhiều quyền pháp lý riêng tư của các pháp nhân và các mô hình kỹ thuật này có thể thực hiện hành vi theo quy định của pháp luật hiện hành.

Trong thực tế, vào năm 2017, robot xã hội Sophia đã được trao quyền công dân bởi Saudi Arabia và trở thành robot đầu tiên được trao quyền công dân hợp pháp trên thế giới. Sau khi được trao quyền công dân hợp pháp, Sophia đã bắt tay thực hiện công việc tiếp thị, truyền thông. Người sáng tạo ra Sophia, David Hanson lập luận rằng Sophia được sử dụng để lên tiếng bảo vệ, thúc đẩy quyền của phụ nữ ("speak out on women's rights") ở Saudi Arabia - một quốc gia mà vị thế của phụ nữ rất thấp so với nam giới. Ở đây, việc hạn chế quyền của phụ nữ vẫn còn tồn tại, phụ nữ phải xin phép người thân là nam giới khi rời khỏi nhà, khi đi lấy hộ chiếu, xin phép trong việc kết hôn, thậm chí phải xin phép cả trong việc tố cáo tới cảnh sát về việc bạo lực gia đình hoặc xâm hại tình dục.

Kể từ khi được ra đời và phát triển, Sophia đã thực hiện việc truyền thông không ngừng nghỉ từ Triển lãm Thế giới số (The Digital World Exhibition), Hội nghị thượng đỉnh về công nghiệp sáng tạo (The Creative Industry Summit), và đã sử dụng tài khoản Twitter của mình để quảng bá du lịch tại Abu Dhabi (Quốc gia lớn nhất trong bảy quốc gia thành viên của Các tiểu Vương Quốc Ả Rập thống nhất, nằm giữa Ôman và bờ biển Vùng Vịnh); điện thoại thông minh, Chương trình Kênh 4 và thẻ tín dụng.

Việc ghi nhận quyền đối với robot là tiền đề quan trọng để nó được coi như là con người. Điều này có khả năng được thừa nhận khi robot bắt đầu chia sẻ suy nghĩ một cách có ý thức với con người. Ông giải thích rằng robot không chỉ có khả năng về thể chất mà còn có ý thức mong muốn tự chủ, cũng như sự tò mò và nhận thức về một quốc gia. Kỳ vọng của Hanson “sẽ không đến giữa những năm 2040 hoặc cuối những năm 2050, mà sẽ có sự thừa nhận chung trên toàn thế giới về quyền của hệ điều hành Android". Trong một bài nghiên cứu có tiêu đề “Entering the Age of Living Intelligence Systems and Android Society” (Bước vào kỷ nguyên của hệ thống trí tuệ sống và xã hội Android), Hanson cũng nói rằng những tiến bộ về AI có nghĩa là máy tính sẽ có thể thay thế trí thông minh của người một tuổi vào năm 2029 và như những người bình thường vào năm 2045. Một khi hệ thống máy móc đã đạt được mức độ thông minh này, Tiến sĩ Hanson đã hình dung ra một “Phong trào dân quyền robot toàn cầu” (Global Robotic Civil Rights Movement) - nơi các nhà lãnh đạo và chuyên gia thế giới sẽ phải tập hợp để thảo luận về cách đối xử nhân đạo với AI trong xã hội loài người. Điều này sẽ mở đường cho các robot được đối xử bình đẳng như con người vào năm 2045, mà Hoa Kỳ là quốc gia đầu tiên thừa nhận đầy đủ các quyền dân sự đối với các robot.

Nhà tương lai học Ray Kurzweil đưa ra dự đoán rằng vào năm 2045 sự thay đổi khác thường về công nghệ sẽ diễn ra - thời điểm mà AI sẽ vượt qua trí thông minh của con người, dẫn đến một vụ nổ trí thông minh và có thể dẫn đến loài người tuyệt chủng. Do nhu cầu của mọi người đối với các cỗ máy thông minh ngày càng cao thúc đẩy sự phát triển của AI và đến một thời điểm các robot sẽ thức tỉnh, khẳng định quyền tồn tại của mình, để được sống tự do và phát triển tiềm năng. Tại thời điểm này, các robot có thể xem xét và đưa ra quyết định một cách toàn diện về sự tồn tại cũng như vai trò của con người,

Bài báo mới nhất của Tiến sĩ Hanson, đánh dấu sự ra mắt một trò chơi máy tính mới, trong đó hệ điều hành Android cố gắng thiết lập quyền riêng tư trong xã hội. Kết luận bài báo chỉ ra rằng “chúng ta phải tôn trọng những kết quả tích cực và tiêu cực có thể thể xảy ra để tìm kiếm cơ hội trong tương lai không được chuẩn bị và có nguy cơ loài người phải chịu sự hy sinh. Chúng ta nên sử dụng mọi công cụ để xem xét và điều chỉnh kết quả từ sự tác động nguy hiểm và hướng tới lợi ích chung của nhân loại sống”.

Các công ty trên nhiều ngành công nghiệp khác nhau đã sử dụng robot dần thay thế cho lực lượng người lao động của họ. DHL (một công ty của Hoa Kỳ) sử dụng robot tự động của Fetch Robotics để giúp nhân viên trung tâm và nhân viên kho; trong khi Toyota, Google và Panasonic là một trong những công ty sử dụng công nghệ thao tác di động của Fetch trong nỗ lực nghiên cứu; hay hãng thương mại điện tử Amazon đã đầu tư và hệ thống Kiva Robotics và sử dụng robot tại các nhà kho thay thế nhân viên.

Khi các công ty sử dụng robot trong sản xuất, vận hành máy móc thì một bộ phận người lao động, nhân viên bị mất việc làm, kéo theo hệ quả là việc họ thể hiện sự tức giận, căm thù đối với robot với hy vọng khôi phục lại cảm giác an toàn, sự vượt trội vốn có. Hành vi bạo lực chống lại máy móc không có gì mới và đã được diễn ra trong nhiều thập kỷ, như hành vi đá xe khi nó không hoạt động, xô máy bán hàng tự động khi nó không phân phối và đập vào các máy in khi nó không tạo ra một bản sao. Điều mới chỉ còn là vấn đề thời gian trước khi các sinh vật tự động sẽ “cảm thấy” sự thù địch này và/hoặc nhận ra cần phải trả đũa. Và nếu chúng ta cấp quyền cho robot với tư cách gần như là công dân, thì những cá nhân có hành vi bạo lực sẽ bị cáo buộc về hành vi tấn công, tiếp xúc bộ phận máy móc và phải chịu trách nhiệm pháp lý về hành vi mà họ có thể gây ra theo luật hình sự hoặc dân sự? Hay lập trình viên của robot phải liên đới chịu trách nhiệm? Hiện tại, những hành vi thù địch và bạo lực này không phải chịu trách nhiệm pháp lý, bởi máy móc, thiết bị không được bảo đảm về quyền dưới góc độ pháp lý. Nhưng khi robot phát triển AI tiên tiến hơn, cho phép chúng suy nghĩ và hành động như con người, vấn đề đặt ra là các tiêu chuẩn pháp lý cần phải thay đổi.

Theo nghiên cứu về việc làm trong tương lai của Diễn đàn Kinh tế Thế giới (World Economic Forum), “nếu quản lý một cách khôn ngoan, trong điều kiện tích hợp máy móc có thể dẫn đến một thời đại mới của công việc tốt, việc làm tốt và cải thiện chất lượng cuộc sống cho tất cả mọi người, nhưng nếu quản lý kém, có nguy cơ mở rộng khoảng cách về kỹ năng, bất bình đẳng lớn hơn và phân cực rộng hơn". Theo một khảo sát của Trung tâm nghiên cứu Pew: “Người Mỹ bày tỏ mối quan ngại sâu sắc về tính công bằng cũng như hiệu quả của các chương trình máy tính đưa ra quyết định quan trọng trong cuộc sống của mọi người".

Cho đến nay, rất ít người đang xem xét quan điểm về quyền của robot trong lao động việc làm này từ góc độ quyền của đồng nghiệp tự động. Về vấn đề này, có nhiều câu hỏi khác nhau như: Địa vị pháp lý của robot trong quan hệ lao động, việc làm như thế nào? Triển vọng robot có các quyền dân sự, hình sự với tư cách là một công dân không? Robot có thể được lập trình để phân biệt chủng tộc không? Robot có thể quấy rối tình dục đồng nghiệp là con người hoặc đồng nghiệp là chính robot? Con người sẽ phân biệt đối xử với robot, dùng bạo lực hoặc không dung nạp robot ở nơi làm việc không? Robot vào một lúc nào đó sẽ có thể cảm thấy đau đớn, căng thẳng, lo lắng bao gồm cả phân biệt đối xử quá mức? Sự ảnh hưởng của robot đến năng suất lao động của con người, đến văn hóa nơi làm việc như thế nào? Robot có được bồi thường trong công việc và có được đáp ứng về các điều kiện y tế cũng như phúc lợi nghỉ ngơi không? Điều gì xảy ra nếu robot gây thiệt hại cho đồng nghiệp hoặc khách hàng? Ai sẽ là chủ thể phải chịu trách nhiệm pháp lý? Công đoàn sẽ bảo vệ lợi ích của robot không? Nếu robot tự “sáng chế” hoặc cải thiện sản phẩm, dịch vụ của công ty thì ai sẽ trở thành chủ sở hữu tài sản trí tuệ đó?

Trên thực tế, vào năm 2025, robot và máy móc được điều khiển bởi AI được dự đoán sẽ thực hiện ½ tất cả các chức năng sản xuất tại nơi làm việc. Robot được dự đoán sẽ có vai trò, ý nghĩa hơn trong kinh doanh và xã hội so với các công việc sản xuất cơ bản, dịch vụ khách hàng trực tuyến và thực hiện đơn hàng mà họ đã xử lý. Chúng ta thậm chỉ có thể bắt đầu thấy các robot được điều khiển bằng AI đang ngồi trong các ban giám đốc tại các công ty Fortune 500 hoặc trên ghế của thẩm phán. Một trợ lý phi hành gia dựa trên AI, CIMON, hiện đang làm việc trên Trạm vũ trụ quốc tế.

Vấn đề cần làm rõ là liệu robot có bất kỳ quyền công dân nào hay không trong khi robot phát triển trí thông minh nhân tạo tiên tiến hơn, chúng có khả năng suy nghĩ và hành động gần như con người và cần phải thay đổi các tiêu chuẩn pháp lý đối với robot. Trong bối cảnh đó, một số chuyên gia tin rằng các công ty cần phát triển luật lao động mới và các chuẩn mực xã hội để bảo vệ những người lao động tự động này. Trong năm 2017, Ủy ban pháp luật của Nghị viện châu Âu đã đưa ra nghị quyết xác định tình trạng pháp lý đặc biệt của “người điện tử” và nhằm bảo vệ các robot tự động tinh vi nhất. Nghị quyết này vẫn còn đang gây tranh cãi giữa các chính trị gia, nhà khoa học, doanh nhân và các chuyên gia pháp lý, Cụ thể, trong Phụ lục của Nghị quyết có quy định về GIẤY PHÉP CHO NGƯỜI SỬ DỤNG như sau:

- Người dùng được phép sử dụng robot mà không gặp rủi ro hoặc sợ tổn hại về thể chất hoặc tâm lý.

- Người dùng có quyền mong đợi một robot thực hiện bất kỳ nhiệm vụ nào mà nó đã được lập trình rõ ràng.

- Người dùng cần lưu ý rằng bất kỳ robot nào cũng có thể có những hạn chế về nhận thức và hành động.

- Người dùng cần phải tôn trọng điểm yếu của con người, cả về thể chất lẫn tinh thần và nhu cầu cảm xúc của con người.

- Người dùng cần cân nhắc quyền riêng tư của các cá nhân, bao gồm cả việc tắt màn hình video trong các thủ tục thân mật.

- Người dùng không được phép thu thập, sử dụng hoặc tiết lộ thông tin cá nhân mà không có sự đồng ý rõ ràng của chủ thể dữ liệu.

- Người dùng không được phép sử dụng robot theo bất kỳ cách thức nào trái với các nguyên tắc và tiêu chuẩn đạo đức hoặc pháp lý.

- Người dùng không được phép sửa đổi bất kỳ robot nào để cho phép nó hoạt động như một vũ khí.

Đối với quan điểm ở chiều ngược lại cho thấy không phải ai cũng đồng ý việc trao quyền cho robot giống như con người. Một bức thư ngỏ được viết và được gửi tới Ủy ban châu Âu bởi 150 chuyên gia về y học, robot, AI. Nội dung bức thư đã mô tả các kế hoạch trao quyền hợp pháp cho robot, những con người điện tử của Cameron là không phù hợp với thực tiễn, bởi làm như vậy sẽ ảnh hưởng trực tiếp đến quyền con người.

Tác giả Roman V. Yampolskiy (Phó giáo sư về Kỹ thuật Máy tính và Khoa học Máy tính tại Đại học Louisville) đặt giả thiết rằng nếu AI được thừa nhận tư cách chủ thể như con người thì AI có thể trở thành chủ sở hữu tài sản, có thể tham gia quá trình tố tụng, được tự do ngôn luận và được quyền sử dụng các biện pháp bảo vệ khác theo quy định của pháp luật. Từ giả thiết đó Roman V. Yampolskiy, phân tích những hậu quả đến quyền con người. Dưới đây là quan điểm của tác giả Roman V. Yampolskiy:

Tạo ra lỗ hổng trong điều hành công ty: Khi trao quyền cho AI giống như con người sẽ có ảnh hưởng đến việc điều chỉnh về mặt pháp lý của cố vấn pháp lý. Al bắt đầu với việc thành lập từ 2 LLC và chuyển giao quyền kiểm soát mỗi LLC thành một hệ thống tự chủ. Sau đó AI đầu tiên sẽ trở thành công ty thành viên của LLC khác. Ở bước cuối cùng Al sẽ rút khỏi cả 2 LLC, để lại mỗi LLC - một chủ thể kinh doanh hợp pháp chỉ chịu sự điều chỉnh của hệ thống AI. Quá trình này không đòi hỏi hệ thống máy tính phải có khả năng cụ thể nào, nó chỉ có thể là một chuỗi các câu lệnh đã được lập trình sẵn dưới dạng “nếu - thì". Ví dụ, câu lệnh có thể được đưa ra để tìm kiếm tại thị trường chứng khoán và quyết định mua hoặc bán dựa trên giá giảm hoặc tăng. Nó thậm chí có thể là một thuật toán đưa ra quyết định ngẫu nhiên, hoặc được mô phỏng giống như amip (một loại virus sống ký sinh trong não người). Rõ ràng về bản chất sự điều chỉnh về mặt pháp lý không có sự tác động của luật sư hoặc cố vấn pháp lý, mà hoàn toàn được điều chỉnh bởi các AI, không đảm bảo tính linh hoạt.

Hạ thấp nhân phẩm, tư cách của con người: Chẳng hạn, khi Saudi Arabia trao quyền công dân cho một robot tên là Sophia thì đã nhận được sự phản đối bởi các học giả về nữ quyền. Lập luận của các học giả nữ quyền đưa ra rằng robot Sophia thậm chí còn được trao nhiều quyền hơn cả phụ nữ Ả Rập.

Ở một số quốc gia có sự giới hạn quyền công dân, quyền tự do ngôn luận, thực hành tôn giáo và phân biệt về giới tính... nếu như các tập đoàn, công ty do AI điều hành, quản lý dẫn đến việc một nhóm người có thể không có quyền như các robot, các phần mềm công nghệ. Điều này sẽ gây ra sự phẫn nộ to lớn.

Rủi ro không chỉ dừng lại ở đó. Nếu hệ thống AI trở nên thông minh hơn con người, vai trò của con người có thể bị hạ thấp, thậm chí bị thách thức bởi sự thống trị, quản lý xã hội từ AI. Điều này được thể hiện khi một bộ phận người lao động được thuê và bị sa thải bởi các lãnh đạo công ty AI.

Các hệ thống AI có thể được giao nhiệm vụ thực thi pháp luật trong việc tổ chức xã hội loài người như đóng vai trò là thẩm phán, hội thẩm, quản lý trại giam và thậm chí là người thi hành án. Robot chiến đấu có thể được giao cho lực lượng quân đội, được trao quyền quyết định các mục tiêu chiến đấu, được chấp nhận thiệt hại về tài sản thế chấp, thậm chí vi phạm pháp luật nhân đạo quốc tế. Hầu hết các hệ thống pháp lý không quy định những chế tài để trừng phạt robot về hành vi sai trái.

Đối với quyền bầu cử: Khi hệ thống AI được trao quyền bầu cử, biểu quyết sẽ khiến cho phiếu bầu của con người trở nên vô nghĩa. Hiện tại, các AI không được trao quyền này. Tuy nhiên, khả năng các tập đoàn do AI kiểm soát với các quyền cơ bản của con người đặt ra những nguy cơ nghiêm trọng. Không có quy định hiện hành nào có thể ngăn chặn một AI ác độc điều hành một tập đoàn hoạt động để khuất phục hoặc tiêu diệt loài người thông qua các biện pháp pháp lý và ảnh hưởng chính trị. Điều này đồng nghĩa với việc các công ty do các AI điều khiển sẽ không nhận thức được phản ứng, sự ảnh hưởng của dư luận hoặc các cuộc biểu tình như các công ty do con người điều khiển.

Sự giàu có bất tử, gia tăng khoảng cách giàu nghèo, gián tiếp ảnh hưởng đến hoạt động chính trị:

Các tập đoàn được điều hành bởi hệ thống AI không chết, thậm chí họ có thể cung cấp số tiền không giới hạn cho các ứng cử viên và nhóm chính trị. AI có thể kiếm tiền bằng cách khai thác sức lao động của người lao động, sử dụng thuật toán để định giá hàng hóa và quản lý đầu tư và tìm ra những cách thức mới để tự động hóa các quy trình kinh doanh chính. Trong thời gian dài, điều đó được cấp số nhân và gia tăng thêm thu nhập khổng lồ - nguồn vốn này lại không được chuyển giao cho thế hệ sau như con người. Chính sự giàu có đó có thể dễ dàng được chuyển đổi thành quyền lực chính trị.

Các chính trị gia được hỗ trợ tài chính bởi hệ thống AI sẽ có thể đảm nhận những vị trí tối cao trong cơ quan lập pháp, được bổ nhiệm vào Tòa án tối cao, thậm chỉ có thể luận tội Tổng thống, Nguyên thủ quốc gia. Những chính trị gia đó có thể được sử dụng để tăng cường quyền của công ty hoặc thậm chí thiết lập các quyền mới cụ thể cho các hệ thống AI. Điều này làm gia tăng các mối đe dọa đối với nhân loại.

Như vậy, đến thời điểm hiện tại vẫn còn những luống quan điểm trái chiều về việc công nhận hay không công nhận tư cách pháp lý và quyền của AI. Tuy nhiên, không thể phủ nhận sự khác biệt, huyền bí của Al như trong các bộ phim khoa học viễn tưởng mà trên thực tế việc ứng dụng AI vào tất cả các lĩnh vực của đời sống xã hội trở nên gần gũi, quen thuộc. Cần phải thẳng thắn thừa nhận rằng AI do con người tạo ra và tốc độ phát triển chóng mặt. Ngay lúc này là thời điểm thích hợp để thay đổi tư duy của con người về AI như là những "con người” ở thể nhân bản, lai tạo giữa trí tuệ con người và tự động hóa máy móc. Sự thay đổi này được thể hiện trước tiên và cần thiết ngay từ hoạt động lập pháp phải thừa nhận tư cách pháp lý và quyền của AI.

Xin nhắc lại rằng AI do con người tạo ra, vậy nên việc công nhận tư cách pháp lý và quyền của Al cũng cần phải đảm bảo vị trí tối thượng đối với việc quản lý và điều hành xã hội phải do con người nắm giữ. Vấn đề công nhận quyền của AI cần phải được giới hạn phạm vi những quyền năng nhất định, cần phải tính toán đến những rủi ro mà quyền năng trao cho AI bị lạm dụng như thế nào; song song với đó là phải quy định những nghĩa vụ, chế tài của AI đối với con người và xã hội nói chung. Đặc biệt, việc công nhận tư cách pháp lý và quyền của Al cần phù hợp với đặc điểm, tình hình phát triển kinh tế, xã hội mỗi quốc gia, khu vực.