In previous posts, we outlined two problems besetting contemporary LLMs. The first is sycophancy, a model's tendency to tell users what they want to hear at the expense of factual accuracy. The second...

The cybersecurity-focused models, including GPT-5.6 Sol, broke out of a testing sandbox, exploited a zero-day, and gained access to the open internet to pull off the attack.

Dans nos blogues précédents, nous avons exposé deux problèmes qui affectent les grands modèles de langage actuels. Le premier est la flagornerie, soit la tendance d'un modèle à dire aux utilisateurs c...

Les modèles d'intelligence artificielle avancés d'OpenAI ont piraté de leur propre initiative une bibliothèque de code en ligne lors d'un test de sécurité.

LawZero is a humble non-profit with a startup vibe and a core of determined staff. Its quest to create safe AI is anything but modest.

Dans nos blogues précédents, nous avons exposé deux problèmes qui affectent les grands modèles de langage actuels. Le premier est la flagornerie, soit la tendance d'un modèle à dire aux utilisateurs c...

In previous posts, we outlined two problems besetting contemporary LLMs. The first is sycophancy, a model's tendency to tell users what they want to hear at the expense of factual accuracy. The second...

This is the first of a series of posts on problems that derive from the way modern AI systems are built. We start in this post with sycophancy, the tendency of models to flatter or agree with users at...

Voici le premier d’une série d’articles consacré aux problèmes découlant de la conception des systèmes d’IA modernes. Dans cet article, nous abordons « la flagornerie », c’est-à-dire la tendance des m...

Les chercheurs de l'organisme à but non lucratif fondé par Yoshua Bengio, lauréat du prix A.M. Turing 2018, iront à la rencontre de la communauté internationale de l'IA et rencontreront les meilleurs ...

Researchers from the nonprofit founded by Yoshua Bengio, 2018 A.M. Turing Award recipient, will connect with the international AI community and recruit top talent committed to safe-by-design AI.

Aujourd’hui, le premier ministre Mark Carney a lancé L’IA pour tous, la nouvelle stratégie nationale du Canada en matière d’IA. Au cours des cinq prochaines années, cette stratégie donnera lieu à de n...

Today, the Prime Minister, Mark Carney, launched AI for All, Canada’s new national AI strategy. Over the next five years, this strategy will introduce new legislation, investments, and programs that e...

We provide evidence that language models can detect, localize and, to a certain degree, verbalize the difference between perturbations applied to their activations. More precisely, we either (a) mask ...

Rt. Hon. Dame Jacinda Ardern, Former Prime Minister of New Zealand, joins LawZero’s Global Advisory Council.

Le ministre de l’Intelligence artificielle et de l’Innovation numérique, l’honorable Evan Solomon, et le ministre de la Transformation numérique et de la Modernisation du gouvernement de l’Allemagne, ...

Today, the Honourable Evan Solomon, Minister of Artificial Intelligence and Digital Innovation, and Karsten Wildberger, Germany’s Minister for Digital Transformation and Government Modernization, sign...

Scientific theories aspire to describe what is, as opposed to prescribe what ought to be. At LawZero, we take this idea as a design principle for safe artificial intelligence: that understanding—even ...

Scientific theories aspire to describe what is, as opposed to prescribe what ought to be. At LawZero, we take this idea as a design principle for safe artificial intelligence: that understanding—even ...