Cái bóng của một thời đại nơi công nghệ đi trước quá xa

Khi Robot được trang bị AI và ngày càng liên quan mật thiết đến đời sống con người, chúng ta đang phải đối mặt với những câu hỏi mới. Trong khi công nghệ đang tiến bộ từng ngày, thì khuôn khổ để quy định, quản lý và biện minh về mặt đạo đức cho việc sử dụng chúng lại đang ở trạng thái tụt hậu. “Tương lai nơi con người và Robot cùng chung sống” không chỉ là một vấn đề kỹ thuật, mà còn là vấn đề về luật pháp và đạo đức.

Ví dụ, giả sử ở nhà bạn có một Robot chăm sóc đang hỗ trợ một thành viên cao tuổi trong gia đình. Robot đó có chức năng thường xuyên giám sát các hành động, cuộc trò chuyện, tình trạng sức khỏe, thông tin cá nhân của người nhà bạn, và liên kết với các cơ sở y tế bên ngoài khi cần thiết. Ở đây sẽ nảy sinh những nghi vấn. Dữ liệu đó thuộc về ai? Và, liệu thông tin đó có được phép cho bên thứ ba biết hay không?

Khả năng vi phạm “Nhân quyền” của Robot

Không phải là câu chuyện trong thế giới phim khoa học viễn tưởng, mà như một vấn đề thực sự có thể xảy ra, các tình huống nơi Robot AI xâm phạm đến sự tôn nghiêm của con người đang ngày càng gia tăng. Ví dụ, tại nơi làm việc, nếu Robot phân tích chuyển động của công nhân bằng AI, phán đoán rằng “Hiệu suất kém”, “Nghỉ ngơi nhiều”, và việc đánh giá nhân sự được thực hiện dựa trên thông tin đó thì sao?

Những “đánh giá bằng AI” như thế này thoạt nhìn có vẻ hợp lý, nhưng lại tiềm ẩn rủi ro xem nhẹ sự đa dạng vốn có của con người cũng như sự cân nhắc đến các hoàn cảnh cụ thể. Liệu phán đoán do máy móc đưa ra có thực sự được coi là một đánh giá dựa trên sự thấu hiểu về tính nhân văn hay không.

Hơn nữa, khi Robot an ninh trang bị AI tiến hành “nhận diện kẻ khả nghi”, không thể phủ nhận khả năng chúng sẽ hành động mang theo Thành kiến (Bias / バイアス) dựa trên màu da hay dáng đi. AI học tập dựa trên các dữ liệu trong quá khứ, nhưng nếu dữ liệu quá khứ đó chứa đựng những định kiến về chủng tộc, giới tính, hay tuổi tác, thì những định kiến đó sẽ cứ thế được di truyền lại cho AI.

Vấn đề về sự giám sát bằng AI và tự do

Tiếp theo, hãy hướng mắt đến vấn đề về Quyền riêng tư (Privacy / プライバシー) và sự giám sát. Việc Robot trở nên “thông minh” hơn nhờ AI, nếu nhìn từ mặt trái, cũng có nghĩa là chúng có thể thu thập, xử lý và lưu trữ một lượng dữ liệu lớn tương đương. Nếu các Robot giám sát trong nhà hay Robot tuần tra trong Thành phố thông minh (Smart city / スマートシティ) trở nên tồn tại thường ngày, chúng ta sẽ bị đặt vào tình trạng “luôn bị ai đó theo dõi”.

Điều quan trọng ở đây là sự cân bằng giữa giám sát và an toàn. Ví dụ, một Robot phát hiện kẻ khả nghi và báo cảnh sát vào ban đêm sẽ mang lại sự an tâm, nhưng sẽ ra sao nếu nó liên tục ghi hình lại mọi hành động của chính bạn? Những hình ảnh được ghi lại sẽ được lưu trữ ở đâu, và ai có thể truy cập chúng. Việc chúng bị bán cho công ty quảng cáo mà bạn không hề hay biết, không phải là một chuyện không thể xảy ra.

Vấn đề nghiêm trọng hơn nữa là quá trình phán đoán của AI đang bị “Hộp đen hóa (Black boxing / ブラックボックス化)“. Trong trường hợp AI chỉ đưa ra kết quả là “Phán đoán nhân vật này là nguy hiểm” mà không làm rõ căn cứ của nó, con người nên dựa vào tiêu chuẩn nào để tin tưởng phán đoán đó?

Động thái thiết lập luật lệ mang tính quốc tế

Để đối phó với những vấn đề như vậy, động thái xây dựng luật pháp tại các quốc gia và tổ chức quốc tế đã bắt đầu. Ví dụ, tại EU, việc soạn thảo “Đạo luật AI (Artificial Intelligence Act / AI法)” quy định các chế tài toàn diện liên quan đến AI đang được xúc tiến, và phương hướng hạn chế phạm vi sử dụng tùy theo Mức độ rủi ro (Risk level / リスクレベル) của AI đã được đưa ra.

Đối với các AI rủi ro cao (High-risk AI / 高リスクAI) (ví dụ như AI được sử dụng trong y tế hay thực thi pháp luật), tính minh bạch và Trách nhiệm giải trình (Accountability / 説明責任) nghiêm ngặt sẽ được đòi hỏi, và các doanh nghiệp bị áp đặt nghĩa vụ phải công khai nội dung thuật toán. Hơn nữa, một thái độ thận trọng đang được áp dụng đối với việc sử dụng các chức năng như “nhận diện cảm xúc” hay “nhận diện khuôn mặt” bằng AI, và xu hướng chung là cấm việc sử dụng không phép tại các không gian công cộng.

Tại Nhật Bản, các hướng dẫn liên quan đến phát triển AI cũng đã được thiết lập, và với nòng cốt là Bộ Kinh tế, Thương mại và Công nghiệp cùng Văn phòng Nội các, họ đang hành động với từ khóa là “AI đáng tin cậy”, tuy nhiên các quy định có sức ràng buộc pháp lý vẫn chưa thể gọi là đầy đủ. Hiện thực là các vấn đề về đạo đức và quyền riêng tư đang không theo kịp tốc độ của sự tiến bộ công nghệ.

“Trí tưởng tượng đạo đức” được đòi hỏi ở các nhà phát triển

Vậy, các nhà phát triển nên hành động như thế nào? Câu trả lời không phải là “Chỉ cần không vi phạm pháp luật là OK”, mà nằm ở thái độ luôn tự hỏi “Điều này có đúng đắn về mặt đạo đức hay không”.

Ví dụ, đó là việc mang những góc nhìn như: “Nếu thêm tính năng này sẽ trở nên tiện lợi, nhưng bù lại quyền tự do của ai đó sẽ bị hạn chế chăng?”, “Phán đoán của AI này có hoạt động gây bất lợi cho một nhóm cụ thể nào không?”.

Đây không đơn thuần chỉ là trách nhiệm của riêng kỹ thuật viên. Phía kinh doanh hoạch định sản phẩm, kỹ sư triển khai, và người dùng sử dụng, mỗi bên đều được yêu cầu phải có ý thức và tiến hành các cuộc thảo luận minh bạch.

Ngay cả tại các cơ quan giáo dục, việc đưa vào các chương trình giảng dạy bao gồm đạo đức AI cũng đang tiến triển, và từ nay về sau, không chỉ Hiểu biết về AI (AI literacy / AIリテラシー) mà Hiểu biết về đạo đức AI (AI ethics literacy / AI倫理リテラシー) cũng sẽ trở thành một kỹ năng không thể thiếu.

Liệu có thể dung hòa giữa Đạo đức và Đổi mới?

Những ân huệ do tiến bộ công nghệ mang lại, và những rủi ro đi kèm với nó. Làm thế nào để đạt được sự cân bằng này là vấn đề của toàn xã hội. Ví dụ, sự phát triển của AI tạo sinh (Generative AI / 生成AI) giúp tối ưu hóa hiệu quả một cách ấn tượng việc lập kế hoạch hành động và tạo ra phát ngôn của Robot, nhưng đồng thời nó cũng bao hàm các rủi ro lạm dụng như tạo ra thông tin giả mạo hay nhân cách giả.

Mặc dù vậy, chúng ta không được suy nghĩ theo hướng “dừng lại” công nghệ, mà phải hướng tới việc “sử dụng tốt hơn”. Chính lúc này đây, trí tuệ để dung hòa giữa đạo đức và đổi mới đang được đòi hỏi.

Cầu nối sang chương tiếp theo

Trong chương này, chúng ta đã đề cập đến các vấn đề về quy định pháp luật, đạo đức và quyền riêng tư trong việc phát triển Robot AI. Việc hiểu rõ những ảnh hưởng mà công nghệ mang lại cho xã hội, cũng như tiến hành thiết kế và vận hành một cách cẩn trọng sẽ trở thành bước đi đầu tiên hướng tới một xã hội Robot đáng tin cậy.

Vậy, trong một tương lai như thế, “AI tạo sinh” sẽ được lồng ghép vào việc phát triển Robot như thế nào? Khi một Mô hình ngôn ngữ (Language model / 言語モデル) như ChatGPT dung hợp với Robot, chúng ta sẽ có trong tay những khả năng và rủi ro gì ―― trong chương tiếp theo, chúng ta sẽ tiến sát đến thế giới của giao diện mới mẻ đó.