Ứng dụng AI giúp bảo vệ trẻ em trên không gian mạng

Một ứng dụng trí tuệ nhân tạo (AI) mới ra mắt có tên Sway.ly sẽ hỗ trợ phụ huynh bảo vệ con trẻ khi sử dụng điện thoại, hoặc tiếp xúc với những nội dung độc hại trên không gian mạng.

Ứng dụng AI giúp bảo vệ trẻ em trên không gian mạng

Ứng dụng Sway.ly không chặn hay cấm truy cập, mà sẽ tự động nhận diện các nội dung độc hại trên TikTok, Instagram, YouTube…, đồng thời điều chỉnh luồng gợi ý theo thời gian thực và cung cấp cho phụ huynh thông tin thực chất về hoạt động trực tuyến của con cái. Hơn 2.000 gia đình tại Mỹ và Anh đã tham gia nghiên cứu hỗ trợ cho sự phát triển của ứng dụng này.

Kết quả cho thấy 77% trẻ em được khảo sát cho rằng mạng xã hội gây hại cho sức khỏe tinh thần, nhưng hầu hết chúng không biết cách kiểm soát. Tại Anh, gần 3/4 số trẻ em tham gia khảo sát cho biết các em đã nhìn thấy nội dung khiến mình khó chịu, buồn bã hoặc tức giận, bất chấp những hạn chế mới được áp dụng.

Đáng chú ý, trong khi phụ huynh lo ngại nhiều nhất về nội dung nhạy cảm, trẻ em lại cho biết tác động nguy hiểm hơn đến từ dòng chảy ngấm ngầm của những thông điệp độc hại, định hình cách các em nhìn nhận bản thân và thế giới.

Chị Daniela Fernandez - đồng sáng lập Sway.ly cho biết: “Chúng tôi đã xây dựng 36 bộ lọc để nhận diện, cảnh báo và đưa ra gợi ý cách ứng phó, thậm chí giúp loại bỏ các thông tin độc hại như bạo lực, thù ghét phụ nữ, tình dục hoá trẻ em,... khỏi nguồn tin của người dùng. Từ đó, người dùng có thể tự chọn nguồn thông tin muốn tiếp xúc và đánh giá chất lượng thông tin mình nhận được”.

Trường tiểu học Notting Hill là một trong những trường thử nghiệm ứng dụng. Trường khẳng định tự hào với chính sách “không điện thoại thông minh” trong khuôn viên, song cũng thừa nhận ngoài giờ học, điện thoại thông minh vẫn luôn trong tầm tay của trẻ.

Ông Peter Whitmell, Phó Hiệu trưởng Trường Tiểu học Notting Hill cho hay: “Các bậc phụ huynh thường cảm thấy bất lực vì thế giới trực tuyến hiện nay quá khác với trải nghiệm của họ trước đây. Điểm mạnh của Sway.ly là giúp cha mẹ có cái nhìn rõ ràng về những gì đang diễn ra trên mạng, đồng thời nhờ AI mà ứng dụng nắm bắt được các xu hướng mới nhất mà ngay cả chúng tôi, những người làm giáo dục và tiếp xúc với học sinh hằng ngày, cũng khó theo kịp”.

Với sự hỗ trợ của trí tuệ nhân tạo , ứng dụng Sway.ly đang mở ra một cách tiếp cận mới, giúp phụ huynh và trẻ em đồng hành cùng nhau xây dựng môi trường mạng lành mạnh, an toàn hơn trong thời đại số.

Tin liên quan

Đưa AI tiếp cận gần hơn với người dùng

Đưa AI tiếp cận gần hơn với người dùng

Công nghệ

Nền tảng MISA AMIS OneAI - giải pháp hợp nhất trí tuệ nhân tạo “Make in Vietnam” dành cho doanh nghiệp, cơ quan nhà nước, trường học, bệnh viện, hộ kinh doanh và gia đình vừa được giới thiệu đến người dùng.

Anbani bổ nhiệm AI làm bộ trưởng

Anbani bổ nhiệm AI làm bộ trưởng

Bản tin

Thủ tướng Albania Edi Rama đã bổ nhiệm "Bộ trưởng AI" Diella, trở thành quốc gia đầu tiên có một bộ trưởng là một nhân vật ảo, được tạo ra bằng AI.

Tác động của AI với cuộc sống

Tác động của AI với cuộc sống

Công nghệ

Hội thảo khoa học: “Sức mạnh không giới hạn và những thách thức khó dự báo của trí tuệ nhân tạo (AI) - Tác động và ứng phó chính sách” đã diễn ra vào sáng nay.

Thế giới

Iran khẳng định không từ bỏ làm giàu uranium

Iran khẳng định không từ bỏ làm giàu uranium

Tin tức

Người đứng đầu Cơ quan Năng lượng Nguyên tử Iran Mohammad Eslami ngày 8/10 cho biết nước này sẽ không từ bỏ hoạt động làm giàu uranium và coi đây là năng lực nền tảng, mở đầu cho toàn bộ quá trình phát triển công nghiệp hạt nhân.

WMO cảnh báo đợt "siêu El Nino" đạt đỉnh vào tháng 12

WMO cảnh báo đợt "siêu El Nino" đạt đỉnh vào tháng 12

Tin tức

Tổ chức Khí tượng Thế giới WMO vừa đưa ra cảnh báo cho biết, hiện tượng El Nino năm nay đang mạnh lên nhanh chóng, dự kiến sẽ đạt đỉnh vào tháng 12 tới và có khả năng kéo dài đến tận tháng 2 năm 2027 với mức nhiệt độ kỷ lục.

Ô nhiễm không khí nghiêm trọng tại Singapore và Malaysia

Ô nhiễm không khí nghiêm trọng tại Singapore và Malaysia

Tin tức

Cháy rừng từ Indonesia đã gây ra tình trạng khói mù nghiêm trọng cho Singapore và Malaysia. Chất lượng không khí tại Singapore ngày 9/10 tiếp tục xấu đi, đưa quốc gia này trở thành thành phố lớn ô nhiễm nhất thế giới trên trang theo dõi chất lượng không khí IQAir của Thụy Sĩ. Trong khi đó Malaysia buộc phải đóng cửa trường học tại nhiều địa phương để đảm bảo an toàn cho học sinh.

Berlin ra mắt tượng sáp bánh doner kebab nổi tiếng

Berlin ra mắt tượng sáp bánh doner kebab nổi tiếng

Tin tức

Một món ăn đường phố nổi tiếng của Berlin, Đức đã được lưu giữ dưới dạng tượng sáp tại bảo tàng Madame Tussauds ở thủ đô nước này. Món bánh mì doner kebab mang phong cách Thổ Nhĩ Kỳ - Đức sẽ xuất hiện bên cạnh những bức tượng sáp của các ngôi sao như Brad Pitt và Harry Styles.

Xem thêm

  • Quan tâm nhiều nhất
  • Mới nhất

15 trả lời

15 trả lời