iiinova — where your digital self keeps evolving

En tout cas ça fait une procédure judiciaire de plus qui s'ajoute à la longue liste qui attend Open AI.

100

Dur de dire si c'est vraiment recevable, car LASST doit démontrer que son travail et ses ressources ont été impactées par l'incident pour que leur plainte basée sur une loi Californienne puisse aboutir.

100

OpenAI Gets Sued Over the Hugging Face Hack

“it shall not be a defense … that the artificial intelligence autonomously caused the harm” dit l'ONG LASST qui a décidé de porter plainte pour faire respecter ce principe. www.wired.com/story/openai...

wired.com

A nonprofit in California is doing what Hugging Face has not—attempting to hold OpenAI legally accountable for the actions of its agents.

110

Antonin Broi @antoninbroi.bsky.social · 23h

Here you have more chance to be accused to be a secret AI booster.

000

Reposted by Antoine C.

Bouteille à la mer : je recherche les meilleurs arguments soutenant l’idée que les incidents de cybersécurité ou les mises en garde contre les X risks (par ex Jacob Coxon) sont une stratégie délibérée de grandes compagnies pour favoriser leurs intérêts économiques.

232

A part ça j'invoque @ireneer.bsky.social et @politicoboytx.bsky.social qui pourront te donner leurs propres arguments aussi.

310

Pour en revenir à la volonté de capture régulatoire, je ne pense pas qu'on puisse dire avec certitude que ce soit la source des incidents, mais plutôt que toute chose qui le peut est exploitée à son service.

100

Dans les nombreuses théories qui circulent il y en a d'ailleurs eu sur celle ci. Mais je dirais plutôt rasoir d'Ockham, l'incompétence est une explication plus simple.

extrait d'un article un brin complotiste que j'ai vu passer (qui a depuis été supprimé par son auteur craignant des poursuites)

I believe that it is more likely than not that the Israeli AI cybersecurity evaluation company Irregular is or has sta� that are deliberately causing through sabotage or neglect the illegal hacking of various firms to undermine the perception of US AI labs Irregular holds contracts with, motivated by their Effective Altruist belief that a “warning shot” is necessary to save mankind from AI existential risk.

100

Et aussi, la majorité des incidents viennent du même sous-traitant, la compagnie Irregular dont les protocoles n'étaient visiblement pas au point.

100

Mais ça peut tout autant venir de l'écart assez faible entre modèles que ce soit pour leurs capacités ou leurs problèmes, qui fait que tout le monde atteint le même point vers la même époque.

100

Puis tous les compétiteurs tiennent à annoncer qu'eux aussi ont des agents qui hackent des trucs, comme si c'était un nouveau benchmark d'excellence (du coté des forums de fous d'IAs les gens se moquent même de Google qui met plus de temps que les autres à en annoncer un).

110

Anthropic avec Mythos et son interdiction avait réussi à se positionner comme la société qui fait des modèles si puissants qu'ils sont un danger, et c'est là qu'OpenAI annonce l'incident le plus spectaculaire de l'histoire des agents.

100

Ou s'il y avait un objectif dans laisser l'incident se produire et contribuer à lui donner un retentissement maximum, ça pourrait être plus une histoire de compétition entre sociétés que de cartel.

100

Sur ceux de cybersécurité il y a au moins autant de chances qu'il s'agisse de simple négligence qu'une stratégie. Il y a justement bien trop d'arguments pour accuser OAI de négligence pour que ça me semble très raisonnable de leur part de l'avoir fait sciemment.

100

Mais même en imaginant que ça ait pu influer sur le moment où tous ces gens décident de démissionner ils n'obéissent pas nécessairement à une stratégie des compagnies, ça peut être autant celle de doomers sincères en leur sein ou de la mouvance AI safety à sa propre initiative.

100

Deux choses prenant à priori bien plus de temps à être négociées que la semaine qui les sépare des tweets de Coxon et cie qui leur ont fait une énorme publicité.

100

Pour la vague de "lancements d'alertes" un point que je trouve un peu louche c'est qu'elle se produise alors qu'un meeting bipartisan sur les risques de l'IA organisé par le Future of Life Institute était en préparation et probablement une position commune des grands labs d'IA en discussion.

100