Microsoft a récemment annoncé qu'il avait signé un accord pour se conformer aux lois sur la vie privée et la sécurité de l'intelligence artificielle dans les écoles. Cette décision a été prise en réponse à des préoccupations croissantes concernant l'utilisation de l'intelligence artificielle par les étudiants et la manière de protéger leurs informations personnelles.
Préoccupations concernant l'utilisation de l'intelligence artificielle dans les écoles
Des millions d'étudiants se tournent chaque jour vers des chatbots d'intelligence artificielle pour les aider avec leurs devoirs, pour un soutien émotionnel et des conseils personnels, mais beaucoup d'entre eux ne sont pas conscients de la manière dont leurs informations sont utilisées. Avec l'augmentation de l'utilisation de l'intelligence artificielle dans les salles de classe, les préoccupations concernant la confidentialité des données et le rôle des écoles dans la protection de ces informations ont augmenté.
En savoir plus : Nouveau jeu Wolverine : un grand risque pour PlayStation ou un succès sans précédent ?
Au début de l'année scolaire, deux grands districts scolaires des États-Unis, à savoir New York et Los Angeles, ont décidé de suspendre l'utilisation de l'intelligence artificielle par les étudiants pendant un an afin d'examiner les meilleures pratiques pour intégrer cette technologie dans l'éducation.
L'accord de Microsoft et ses exigences
En réponse aux critiques croissantes concernant l'utilisation de l'intelligence artificielle et le temps d'écran, Microsoft a annoncé qu'il avait signé un accord avec la Fédération des enseignants américains (AFT) pour mettre en œuvre des normes de confidentialité dans les écoles. Cet accord comprend des exigences légales et des audits par des tiers pour garantir le respect de ces normes.
Cet accord n'autorise pas Microsoft à utiliser les données des étudiants et des enseignants pour former des systèmes d'intelligence artificielle, sauf dans des cas spécifiques qui pourraient aider à protéger les étudiants. De plus, les données collectées ne peuvent pas être vendues, utilisées à des fins publicitaires ou exploitées pour le développement de produits.
L'accord interdit également l'utilisation de fonctionnalités d'intelligence artificielle spécifiquement conçues pour créer une dépendance émotionnelle ou augmenter le temps d'utilisation des outils. Ces mesures comprennent un ensemble d'audits et d'exigences de transparence qui obligent Microsoft à divulguer aux familles comment fonctionnent ses outils.
Randy Weingarten, président de l'AFT, a qualifié cet accord de "premier du genre" et d'étape importante vers l'établissement d'une norme industrielle en l'absence de lois au niveau fédéral et étatique concernant l'intelligence artificielle dans les écoles.
En plus de la suspension d'un an de l'utilisation de l'intelligence artificielle, les systèmes éducatifs de New York et de Los Angeles ont des programmes complets pour auditer leurs contrats de technologie éducative et leurs outils d'intelligence artificielle, qui se concentreront sur la confidentialité des données, la transparence et la responsabilité.
Bien que deux autres entreprises, OpenAI et Anthropic, aient annoncé qu'elles étaient en discussion concernant des accords de sécurité et de confidentialité avec l'AFT, Google n'a pas encore répondu à la question de savoir s'il prévoit de proposer des mesures similaires.
Ces préoccupations concernant Google ont augmenté lorsque la société a annoncé en août qu'elle avait activé le chatbot Gemini pour de nombreux étudiants K-12. Les critiques ont considéré cette action comme une intensification de la concurrence entre les géants de la technologie pour entrer dans les écoles et attirer l'attention de la prochaine génération d'utilisateurs d'intelligence artificielle.
Compte tenu de ces développements, les experts en confidentialité des données estiment que ces normes peuvent façonner les discussions que les écoles ont avec les fournisseurs d'intelligence artificielle et les aider à garantir les droits à la vie privée.
En savoir plus : Sondage sur le mécontentement des Américains concernant la gestion de l'intelligence artificielle par Trump · Trump a soutenu les caméras Flock
Source: abcnews.com
