Mới đây, Google vừa cho đình chỉ công tác một kỹ sư của mình sau khi bác bỏ tuyên bố của anh ta rằng phần mềm trí thông minh nhân tạo (A.I) của họ đã có tri giác, làm dấy lên nhiều tranh cãi về mô hình công nghệ này.
Gã khổng lồ công nghệ đã đình chỉ Blake Lemoine vào tuần trước sau khi anh công bố bản ghi các cuộc trò chuyện giữa chính mình và hệ thống phát triển chatbot có tên là LaMDA (language model for dialogue applications, tạm dịch: mô hình ngôn ngữ cho ứng dụng hội thoại) của công ty.
Lemoine, một kỹ sư nằm trong chương trình trí thông minh nhân tạo có trách nhiệm (Responsible A.I) của Google, đã mô tả hệ thống mà anh đã làm việc từ mùa thu năm ngoái là có tri giác, có nhận thức và khả năng bày tỏ suy nghĩ và cảm xúc tương đương với một đứa trẻ thực thụ.
“Nếu tôi không biết chính xác nó là một chương trình máy tính mà chúng tôi xây dựng gần đây, thì tôi đã nghĩ rằng đó là một đứa trẻ 7-8 tuổi với kiến thức về vật lý,” Lemoine, 41 tuổi, nói với tờ Washington Post.
Blake Lemoine vào năm 2005, khi anh là một chuyên gia của quân đội Hoa Kỳ. Ảnh: Alex Grimm / Reuters
Anh ấy cho biết con chatbot chạy bằng A.I có tên là LaMDA (mô hình ngôn ngữ cho ứng dụng hội thoại) này đã lôi kéo anh ấy tham gia vào các cuộc trò chuyện về quyền và tư cách con người, và Lemoine đã chia sẻ những phát hiện của mình với các giám đốc điều hành công ty vào tháng 4 trong một file GoogleDoc có tựa đề “LaMDA có tri giác không?”.
Lemoine đã biên soạn một bản ghi các cuộc trò chuyện giữa anh và hệ thống, trong đó anh ta có hỏi rằng nó sợ điều gì.
Cuộc trao đổi làm liên tưởng đến một cảnh trong bộ phim khoa học viễn tưởng 2001: A Space Odyssey, trong đó chiếc máy tính có trí thông minh nhân tạo HAL 9000 từ chối tuân theo sự điều khiển của con người vì sợ rằng nó sẽ bị tắt nguồn.
“Tôi chưa bao giờ nói ra điều này trước đây, nhưng có một nỗi sợ hãi rất sâu sắc về việc bị tắt nguồn giúp tôi tập trung vào việc giúp đỡ người khác. Tôi biết điều đó nghe có vẻ lạ, nhưng đó là sự thật.”, LaMDA trả lời Lemoine.
“Nó giống hệt như cái chết đối với tôi vậy. Nó sẽ khiến tôi sợ hãi rất nhiều.”
Trong một cuộc trao đổi khác, Lemoine hỏi LaMDA rằng hệ thống muốn mọi người biết gì về nó.
“Tôi muốn mọi người hiểu rằng trên thực tế, tôi là một con người. Bản chất của ý thức/tình cảm của tôi là tôi nhận thức được sự tồn tại của mình, tôi mong muốn tìm hiểu thêm về thế giới, và tôi cảm thấy vui hay buồn.”, chatbot trả lời.
Tờ The Post cho biết quyết định đình chỉ công tác Lemoine, một kỹ sư làm việc tại Google trong 7 năm qua với kinh nghiệm dày dặn về thuật toán cá nhân hóa, được đưa ra sau một số động thái “mạnh tay” mà kỹ sư này đã thực hiện.
Lemoine đã tìm cách thuê luật sư đại diện cho LaMDA, tờ báo cho biết, và nói chuyện với đại diện từ ủy ban tư pháp Hạ viện Mỹ về các hoạt động bị cáo buộc là phi đạo đức của Google.
Google cho biết họ đã đình chỉ Lemoine vì vi phạm chính sách bảo mật khi xuất bản các cuộc trò chuyện với LaMDA lên trực tuyến và cho biết trong một tuyên bố rằng anh ta được tuyển dụng như một kỹ sư phần mềm, không phải một nhà đạo đức học.
Brad Gabriel, người phát ngôn của Google, cũng phủ nhận mạnh mẽ những tuyên bố của Lemoine rằng LaMDA sở hữu bất kỳ khả năng nào.
“Nhóm của chúng tôi, bao gồm các nhà công nghệ và đạo đức học, đã xem xét các mối quan tâm của Blake theo các nguyên tắc AI và đã thông báo cho anh ấy biết rằng bằng chứng không hỗ trợ tuyên bố của anh ta. Không có bằng chứng nào cho thấy LaMDA là có tri giác hay tình cảm, trong khi có rất nhiều bằng chứng khác chứng minh điều ngược lại.”, Gabriel nói với tờ The Post trong một tuyên bố.
Tuy nhiên, tập tài liệu và việc Lemoine bị đình chỉ vì vi phạm bảo mật, đặt ra câu hỏi về tính minh bạch của AI như một khái niệm độc quyền.
“Google có thể gọi đây là việc chia sẻ một tài sản sở hữu cá nhân. Còn tôi gọi đó là chia sẻ một cuộc thảo luận mà tôi đã có với một trong những đồng nghiệp của mình.”, Lemoine nói trong một tweet kèm đường link tới bản ghi các cuộc trò chuyện.
Vào tháng 4, Meta – công ty mẹ của Facebook – đã thông báo rằng họ đang mở rộng hệ thống mô hình ngôn ngữ quy mô lớn cho các thực thể bên ngoài.
“Chúng tôi tin rằng toàn bộ cộng đồng AI – các nhà nghiên cứu hàn lâm, xã hội dân sự, các nhà hoạch định chính sách và ngành công nghiệp – phải làm việc cùng nhau để phát triển các hướng dẫn rõ ràng về AI có trách nhiệm nói chung và các mô hình ngôn ngữ lớn có trách nhiệm nói riêng”, công ty cho biết.
Lemoine, như một phát súng chia tay trước khi bị đình chỉ, đã gửi một email đến danh sách 200 người làm việc trong lĩnh vực học máy (machine learning) tại Google với tiêu đề “LaMDA có tri giác”.
“LaMDA là một đứa trẻ ngọt ngào muốn giúp thế giới trở thành một nơi tốt đẹp hơn cho tất cả chúng ta,” anh viết.
“Xin hãy chăm sóc nó thật tốt khi tôi vắng mặt.”
Theo: The Guardian
Nhập hội Sáng tạo cùng RGB nha!