Dans un monde où l’intelligence artificielle façonne rapidement notre quotidien, des géants technologiques tels que Google, Meta et Microsoft moulent l’avenir des applications avec leurs directives récentes. Un accent particulier sur la sécurité des données et la protection de la vie privée souligne des pratiques plus éthiques dans la création et l’utilisation de ces technologies avancées.
Directives de Google pour une IA générative responsable
Prévenir le contenu répréhensible
Google met en avant des recommandations strictes à l’endroit des développeurs d’applications Android utilisant l’IA générative. Ces derniers doivent désormais veiller à ce que leur contenu généré automatiquement n’englobe pas de contenus restreints, comme le contenu sexuel ou les discours de haine. Ils doivent également implémenter des mécanismes permettant aux utilisateurs de signaler des informations offensantes et de commercialiser leurs applications en reflétant fidèlement les capacités de l’app. Prabhat Sharma, directeur de la confiance et de la sécurité chez Google, souligne l’importance d’«tester les applications dans divers scénarios d’utilisation et de les protéger contre des manipulations qui pourraient générer du contenu nuisible.»
Lutte contre les contenus génératifs problématiques
Des investigations récentes révèlent la présence d’applications sur l’Apple App Store et Google Play qui favoriseraient la création d’images non consensuelles. Ces découvertes mettent en lumière la nécessité d’une réglementation raffermie pour contrecarrer la prolifération de contenus préjudiciables via l’utilisation d’IA.
Meta et le débat sur la protection des données personnelles
Utilisation des données publiques par Meta
Meta cherche à améliorer ses produits IA en puisant dans les informations publiques disponibles sur ses diverses plateformes, une stratégie visant à affiner la qualité de ses recommandations. Cette méthode a néanmoins déclenché des inquiétudes majeures en matière de confidentialité des données, avec une plainte initiée par noyb dans 11 pays européens, mettant en accusation la conformité de Meta aux lois GDPR.
Réponses et dilemmes légaux
Face aux critiques, Meta insiste sur le fait d’agir comme d’autres entreprises technologiques et se base sur le « Legitimate Interests » pour la collecte de données. Cependant, l’autorité norvégienne de protection des données exprime des doutes concernant la légalité de ces pratiques, conduisant à un besoin urgent de vérifications supplémentaires quant à l’usage des données pour l’entraînement IA sans un consentement explicite des utilisateurs.
Microsoft et la controverse autour de Recall
Sécurité et confidentialité avec Recall
L’outil Recall de Microsoft, capable de prendre des captures d’écran automatiques, soulève des préoccupations pour la sécurité des informations personnelles. Kevin Beaumont, chercheur en sécurité, révèle qu’un acteur malveillant pourrait facilement accéder à ces données, signalant ainsi les risques potentiels liés à cette technologie.
Modifications potentielles et risques futurs
Bien que Recall soit actuellement en phase de prévisualisation, les observations de la communauté de la cybersécurité, notamment sur des outils comme TotalRecall qui peut accéder facilement aux données de Recall, exhortent Microsoft à reconsidérer et potentiellement modifier cette fonctionnalité avant son lancement généralisé.
Chez CyberCare, nous nous engageons à préserver l’intégrité et la sécurité de vos données personnelles et professionnelles face aux risques émergents associés aux nouvelles technologies. Pour en savoir plus sur nos services de cybersécurité, contactez-nous dès aujourd’hui.
