Instagram przetestuje funkcje zamazujące wiadomości zawierające nagość, aby chronić nastolatki i uniemożliwiać dotarcie do nich potencjalnym oszustom, oznajmiła w czwartek jego matka Meta, próbując rozwiać obawy dotyczące szkodliwych treści w swoich aplikacjach.
Gigant technologiczny znajduje się pod rosnącą presją w Stanach Zjednoczonych i Europie w związku z zarzutami, że jego aplikacje uzależniają i powodują problemy ze zdrowiem psychicznym wśród młodych ludzi.
Meta powiedziała, że funkcja ochrony bezpośrednich wiadomości na Instagramie będzie wykorzystywać uczenie maszynowe na urządzeniu do analizy, czy obraz przesłany za pośrednictwem usługi zawiera nagość.
Ta funkcja będzie domyślnie włączona dla użytkowników poniżej 18 roku życia, a Meta powiadomi osoby dorosłe, aby zachęcić je do jej włączenia.
„Ponieważ obrazy są analizowane na samym urządzeniu, ochrona przed nagością będzie działać również w przypadku całkowicie zaszyfrowanych czatów, w przypadku których Meta nie będzie miała dostępu do tych obrazów – chyba że ktoś zdecyduje się je nam zgłosić” – stwierdziła firma.
W przeciwieństwie do aplikacji Meta Messenger i WhatsApp, bezpośrednie wiadomości na Instagramie nie są szyfrowane, ale firma twierdzi, że planuje wdrożyć szyfrowanie w tej usłudze.
Meta oświadczyła również, że opracowuje technologię pomagającą identyfikować konta, które mogą potencjalnie brać udział w oszustwach związanych z wymuszeniami na tle seksualnym, oraz że testuje nowe wyskakujące wiadomości dla użytkowników, którzy mogli mieć kontakt z takimi kontami.
W styczniu gigant mediów społecznościowych zapowiedział, że ukryje przed nastolatkami więcej treści na Facebooku i Instagramie, dodając, że utrudni im to natrafienie na treści wrażliwe, takie jak samobójstwa, samookaleczenia i zaburzenia odżywiania.
Prokuratorzy generalni 33 stanów USA, w tym Kalifornii i Nowego Jorku, pozwali firmę w październiku, twierdząc, że wielokrotnie wprowadzała ona opinię publiczną w błąd co do zagrożeń związanych z jej platformami.
W Europie Komisja Europejska zebrała informacje na temat tego, w jaki sposób Meta chroni dzieci przed nielegalnymi i szkodliwymi treściami.
© Thomson Reuters 2024
