Le potentiel inconnu de ChatGPT nous laisse perplexes
- , le 10 juillet 2023
- 10 h 54 min
Selon Malwarebytes, un nombre écrasant de personnes interrogées connaissant le ChatGPT s’inquiètent des risques qu’il représente pour la sécurité et la sûreté. Ils n’ont pas non plus confiance dans les informations qu’il produit et souhaiteraient une pause dans son développement afin que la réglementation puisse rattraper son retard. Reste à savoir s’il s’agit d’un simple moment d’inquiétude ou d’une tendance qui va perdurer.
L’incertitude quant à la manière dont le ChatGPT changera nos vies, et s’il prendra nos emplois, est aggravée par la manière mystérieuse dont il fonctionne. Il s’agit d’une quantité inconnue pour tout le monde, même pour ses créateurs. Les modèles d’apprentissage automatique tels que ChatGPT sont des « boîtes noires » dotées de propriétés émergentes qui apparaissent soudainement et de manière inattendue à mesure que la puissance de calcul utilisée pour les créer augmente.
Dans le monde réel, les propriétés émergentes comprennent la capacité à effectuer des calculs, à passer des examens de niveau universitaire et à identifier le sens des mots. La capacité de réaliser ces tâches ne pouvait pas être prédite à partir de modèles plus petits, et les modèles d’aujourd’hui ne peuvent pas être utilisés pour prédire ce dont la prochaine génération de modèles plus grands sera capable.
Nous sommes donc confrontés à un avenir très incertain, tant sur le plan individuel que collectif. Le continuum des points de vue exprimés par les commentateurs sérieux va – littéralement – de ceux qui pensent que l’IA représente un risque existentiel à ceux qui pensent qu’elle sauvera le monde.
« La révolution de l’IA s’accélère depuis très longtemps, et de nombreuses applications spécifiques et limitées ont connu un énorme succès sans susciter ce genre de méfiance », a déclaré Mark Stockley, évangéliste en cybersécurité chez Malwarebytes.
« Chez Malwarebytes, l’apprentissage automatique et l’IA sont utilisés depuis des années pour améliorer l’efficacité, identifier les logiciels malveillants et améliorer les performances globales de nombreuses technologies. Cependant, le sentiment du public à l’égard de ChatGPT est différent et l’incertitude quant à la façon dont ChatGPT changera nos vies est aggravée par les façons mystérieuses dont il fonctionne », a ajouté Stockley.
Les résultats de l’enquête indiquent que ChatGPT pose un problème de confiance. Seuls 10 % des personnes interrogées sont d’accord avec l’affirmation suivante : « J’ai confiance dans les informations produites par ChatGPT », tandis que 63 % ne sont pas d’accord. Le sentiment est similaire en ce qui concerne l’exactitude des informations, puisque seulement 12 % des personnes interrogées sont d’accord avec l’affirmation suivante « les informations produites par ChatGPT sont exactes », tandis que 55 % ne sont pas d’accord.
Au-delà des préoccupations relatives à la confiance et à l’exactitude, 81 % des personnes interrogées estiment que ChatGPT pourrait constituer un risque pour la sécurité, 52 % d’entre elles appelant à une pause dans les travaux de ChatGPT afin que les réglementations soient mises en place – ce qui fait écho aux préoccupations exprimées plus tôt dans l’année par des sommités technologiques.
Malgré l’avalanche de couverture médiatique et de discussions en ligne sur le ChatGPT, seulement 35 % des personnes interrogées sont d’accord avec l’affirmation : « Je connais le ChatGPT », soit nettement moins que les 50 % de personnes qui ne sont pas d’accord.
