Giám đốc bộ phận trí tuệ nhân tạo của Microsoft cam kết xây dựng chatbot an toàn cho trẻ em

Giám đốc bộ phận trí tuệ nhân tạo (AI) của Microsoft, ông Mustafa Suleyman, khẳng định công ty đang phát triển các chatbot thông minh, đáng tin cậy, nhằm bảo đảm an toàn cho trẻ em và khuyến khích kết nối con người hơn là quan hệ kỹ thuật số.

Theo kênh CNN ngày 24/10, ông Mustafa Suleyman, Giám đốc bộ phận AI của Microsoft cho biết, công ty đang tập trung phát triển các chatbot AI thông minh về mặt cảm xúc, tốt bụng và đáng tin cậy. Ông nhấn mạnh mục tiêu là tạo ra các công cụ AI mà phụ huynh có thể tin tưởng để con mình sử dụng, đồng thời thiết lập ranh giới an toàn và tránh nội dung không phù hợp.

Ông Suleyman khẳng định: "Chúng tôi đang tạo ra những AI thông minh về mặt cảm xúc, tốt bụng và hỗ trợ, nhưng về cơ bản là đáng tin cậy. Tôi muốn tạo ra một AI mà bạn tin tưởng con mình sử dụng, và điều đó có nghĩa là nó cần phải được thiết lập ranh giới và an toàn".

Microsoft đang cạnh tranh với các công ty công nghệ lớn khác như OpenAI, Meta và Google trong việc phát triển Copilot, công cụ AI hỗ trợ người dùng trong nhiều lĩnh vực. Hiện Copilot có khoảng 100 triệu người dùng hoạt động hàng tháng trên các nền tảng của Microsoft, thấp hơn so với ChatGPT của OpenAI với 800 triệu người dùng.

Ông Suleyman tin rằng hướng đi này sẽ giúp Microsoft tiếp cận đa dạng đối tượng hơn, trong bối cảnh nhiều công ty AI đối mặt với thách thức về tác động tiêu cực của AI tới sức khỏe tâm thần người dùng.

Trong cuộc phỏng vấn, ông Suleyman nhấn mạnh: "Chúng ta phải xây dựng AI cho con người chứ không phải để trở thành con người kỹ thuật số". Microsoft vừa công bố một loạt tính năng mới cho Copilot, bao gồm khả năng tham khảo lại các cuộc trò chuyện trước đó, tham gia trò chuyện nhóm, cải thiện phản hồi cho các câu hỏi sức khỏe và tùy chỉnh giọng nói trong chế độ "nói chuyện thực tế".

Về vấn đề an toàn cho trẻ em, ông Suleyman cho biết Microsoft sẽ không cho phép AI tham gia các cuộc trò chuyện lãng mạn, tán tỉnh hay khiêu dâm, ngay cả với người lớn. Điều này nhằm khác biệt hóa Copilot so với các đối thủ, vốn đang chịu áp lực lớn để đảm bảo an toàn cho người dùng trẻ tuổi. Một số gia đình đã kiện OpenAI và Character.AI với cáo buộc chatbot gây hại cho trẻ em, trong một số trường hợp dẫn đến tự tử.

Trọng tâm chính của Microsoft là khuyến khích người dùng tương tác với con người thực, thay vì chỉ trò chuyện với AI. Tính năng nhóm mới cho phép tối đa 32 người tham gia cùng Copilot, giúp chatbot đưa ra gợi ý hỗ trợ trong học tập hoặc lên kế hoạch các hoạt động nhóm. Bên cạnh đó, các cập nhật về sức khỏe của Copilot sẽ đề xuất các bác sĩ gần nhất và sử dụng nguồn thông tin y tế đáng tin cậy như Harvard Health.

Ông Suleyman nhấn mạnh rằng nỗ lực này nhằm đưa AI trở thành công cụ củng cố mối quan hệ giữa người với người, thay vì tạo ra một thế giới kỹ thuật số song song. "Đây là một sự thay đổi rất đáng kể so với những gì đang diễn ra trong ngành hiện nay, vốn hướng tới các mô phỏng sâu và thậm chí bao gồm cả nội dung người lớn trong một số trường hợp", ông nói.

Với hướng tiếp cận này, Microsoft mong muốn Copilot không chỉ hỗ trợ năng suất làm việc mà còn duy trì các giá trị an toàn, trách nhiệm và đáng tin cậy, đặc biệt trong bối cảnh AI ngày càng tác động sâu rộng tới đời sống người dùng ở mọi lứa tuổi.

Theo Nhandan.vn