Tổng thống Pháp đề xuất cấm AI nếu công nghệ này đe dọa đến sức khỏe tinh thần trẻ em

Ngày 9/11, Tổng thống Pháp Emmanuel Macron tuyên bố rằng trí tuệ nhân tạo (AI) nên bị cấm trong mọi trường hợp nếu công nghệ này gây rủi ro cho sức khỏe tinh thần của trẻ em.

Ông Macron, người hiện cũng đang thúc đẩy lệnh cấm sử dụng một số mạng xã hội đối với người dưới 15 tuổi, nhấn mạnh rằng nếu có bất kỳ rủi ro nào đối với trẻ em trong một số mục đích sử dụng AI nhất định, điều đó bắt buộc phải bị cấm.

Tổng thống Pháp đã đưa ra những bình luận này trong một cuộc phỏng vấn với nhật báo Les Echos vào đêm trước khi thông qua một hiến chương về chủ đề này tại Diễn đàn Hòa bình Paris. Ông khẳng định không thể để AI phát triển tự do không kiểm soát, đồng thời nói thêm rằng công nghệ này cần bị cấm khi đe dọa đến sức khỏe tinh thần hoặc trí não của trẻ.

Dự kiến ngày 10/11, một ủy ban chuyên gia sẽ đệ trình lên Tổng thống những khuyến nghị về việc bảo vệ người dùng trước AI. Đây là một lĩnh vực hiện vẫn chưa được khám phá và đánh giá kỹ lưỡng như tác động của mạng xã hội.

Sau khi có khuyến nghị, các phòng thí nghiệm nghiên cứu sẽ cam kết thực hiện một số biện pháp trong khuôn khổ hiến chương chung. Các biện pháp này bao gồm việc đánh giá độc lập các hệ thống AI tạo sinh trước khi tung ra thị trường, cũng như cho phép truy cập vào dữ liệu mô hình của họ.

Văn phòng Tổng thống Pháp cho biết hiến chương này nhằm mục đích cung cấp thông tin cho các cuộc tranh luận về lập pháp ở cấp quốc gia và toàn châu Âu. Đặc biệt, thỏa thuận này sẽ có sự tham gia của những gã khổng lồ công nghệ đến từ Mỹ như OpenAI và Anthropic.

Theo ông Macron, các công ty công nghệ sẽ phải chấp nhận nguyên tắc kiểm tra và cấp phép trước, bao gồm việc xem xét kỹ lưỡng các mô hình AI trước khi đưa chúng vào tay trẻ em.

Ông chia sẻ thêm rằng Pháp sẽ tiếp tục thúc đẩy các quy định của châu Âu và kêu gọi các quốc gia khác hành động tương tự. Ông nhấn mạnh rằng Pháp đang trong quá trình đặt nền móng cho những quy định quản lý AI tiên tiến nhất.

Mục tiêu cốt lõi của động thái này là tạo ra một khuôn khổ quản lý tính toán đến những mối nguy hiểm thuộc ba nhóm chính: an toàn của trẻ em, an ninh dân chủ và các vấn đề an ninh quốc gia trọng yếu.

Bên cạnh đó, ông Macron cũng đã tập hợp khoảng 50 nguyên thủ quốc gia và người đứng đầu chính phủ, cùng đại diện các tổ chức quốc tế, doanh nghiệp, nhà nghiên cứu và phòng thí nghiệm trong một cuộc họp trực tuyến. Cuộc họp này nhằm thảo luận chuyên sâu về rủi ro của AI đối với an ninh chung.

Trên mạng xã hội X, ông kết luận rằng mọi người đều có chung nhận định về vấn đề này và tất cả phải hành động cùng nhau.