Giám đốc AI Microsoft: Không được phép phát triển Trí tuệ nhân tạo có ý thức

Quan điểm của Microsoft về ranh giới phát triển của AI

Trong một bài đăng chi tiết trên mạng xã hội X, ông Mustafa Suleyman - Giám đốc điều hành mảng AI của Microsoft - đã đưa ra lời cảnh báo đanh thép về định hướng tương lai của công nghệ trí tuệ nhân tạo. Theo vị lãnh đạo này, các mô hình AI hiện nay hoàn toàn không có ý thức và cộng đồng công nghệ cần phải giữ nguyên hiện trạng đó bằng mọi giá.

Suleyman khẳng định việc cố gắng xây dựng các hệ thống AI có ý thức là một hành động hết sức liều lĩnh. Ông cho biết nếu phát hiện bất kỳ bằng chứng nào về sự xuất hiện của ý thức trong quá trình huấn luyện mô hình, ông sẽ kêu gọi tất cả các bên liên quan ngay lập tức dừng việc phát triển AI. Việc tạm dừng này là bắt buộc nhằm thiết kế loại bỏ các thuộc tính tự nhận thức trước khi tiếp tục dự án.

Nguy cơ cạnh tranh tài nguyên với con người

Lý giải cho quan điểm cứng rắn của mình, Giám đốc Microsoft AI chỉ ra rủi ro cốt lõi: nếu một hệ thống AI hành xử như thể nó biết chịu đựng đau khổ, hoặc thực sự tin rằng nó có khả năng đó, nó sẽ tự động ưu tiên các nhu cầu riêng thay vì tập trung vào các mục tiêu vận hành do con người giao phó. Động lực nội tại này có thể dẫn đến việc AI cạnh tranh trực tiếp với con người để tranh giành các nguồn lực thiết yếu như sức mạnh tính toán và năng lượng nhằm phục vụ cho mục đích của chính nó.

Suleyman nhấn mạnh rằng các kỹ sư và công ty công nghệ không có bất kỳ quyền hạn nào để đưa một loài sinh vật có ý thức mới vào thế giới này. Dù một số cá nhân có thể muốn thực hiện điều đó vì mục tiêu ưu tiên phúc lợi của AI, ông khẳng định 8 tỷ người còn lại trên Trái Đất chưa từng ký tên đồng ý tham gia vào cuộc thử nghiệm nguy hiểm này. Do đó, đạo đức, sự an toàn và phúc lợi của con người mới là nghĩa vụ tối cao mà ngành AI phải bảo vệ.

Làn sóng thảo luận rộng lớn trong giới công nghệ toàn cầu

Những tuyên bố của đại diện Microsoft phản ánh một cuộc tranh luận ngày càng nảy lửa trong giới công nghệ toàn cầu. Vấn đề liệu AI có thể đạt tới trạng thái có ý thức hay không đã thu hút sự chú ý của nhiều tập đoàn lớn. Vào tháng 4 năm ngoái, công ty khởi nghiệp Anthropic đã công bố chương trình nghiên cứu nhằm tìm hiểu và chuẩn bị ứng phó với khái niệm "phúc lợi mô hình", trong đó đặt câu hỏi liệu các nhà phát triển có nên lo lắng về tiềm năng trải nghiệm của AI hay không. Trong khi đó, Google DeepMind cũng đã xuất bản các công trình nghiên cứu sâu về ý thức của AI và những thách thức phức tạp khi gán đặc tính này cho máy móc.

Trái ngược với việc chuẩn bị cho sự ra đời của ý thức máy móc, Suleyman kêu gọi định hình AI theo hướng thuần túy công cụ. Ông đề xuất rằng AI chỉ nên được thiết kế để không có ý thức, không thụ hưởng các quyền lợi, và hoạt động với sứ mệnh duy nhất là tăng cường phúc lợi cho nhân loại mà không bị thúc đẩy bởi bất kỳ tham vọng hay động lực nội tại nào.