iiinova — where your digital self keeps evolving

Small differences, when compounded, matter hugely. E.g., the difference between a 2% and 4% growth rate over time. (I think) also small differences in human intelligence can translate to huge differences in say math. Important a self-improving intelligence can make intelligence growth _diverge_.

000

What we also do observe is that this superior intelligence manages to kill other species without killing ourselves (and sometimes while killing ourselves). “An entity thousand times smarter than a human is not thousand times more capable.” You might be right, but you may also be very wrong. ->

100

We do have observations of other species interacting with a more intelligent being (us). Sometimes they thrive (wheat), sometimes they are extinct and sometimes they end up in between, all largely depending on how they fit in with human preferences. ->

100

is that it’s hard to put probabilities on particular outcomes and scenarios. I agree, but this holds also for “AGI is safe”. Problem is we have no empirical observations of mankind interacting with a more intelligent being. ->

100

Lots to unpack. “We don’t have to think this is a genuine threat”. Correct, but the starting point was the assertion that complex management was a central hurdle. This shows that, with an AGI as defined, it’s conceptually not. I think what you’re saying when using “hypothetical” ...

100

Caveats: 1) This is one principle path. It may be more decentralized, where an AI economy grows and where so much has been automated that humans aren't needed for AI survival. 2) This doesn't imply AGI will want to kill all humans, just that it can survive it. 3) Please poke holes, but be kind.

100

Note, this is essentially how humans do too when they want to build a house or a space ship. In case humans are needed because an existing tool is missing or a step in the path to final-necessary tool needs human involvement. Then convince/pay humans to help. Hack to take control of existing tools.

101

Second, identify which tools is in its control today. This is easy and there's plenty, including various automation processes, robots, autonomous systems that humans have built already. Not all will be useful. Third, use the available tools to build new tools that can build new tools etc

100

It can first identify which tools it needs to fully produce and manage the structure without human hands. This may be very complex as it may involve assembly of parts, creation of parts (e.g., an automatic blast furnace) etc. But the AGI is smart.

210

2) Will the AGI be able to carry it out physically? That is, will it be able to control the necessary parts of the physical world without humans involved at the end? I'm thinking Yes, but that it may take a long time to execute. How would it go about (roughly)?

100

Subquestion 1) Will AGI understand the complexity of how to build and manage it effectively? Here the answer must be Yes, essentially by definition. We know the joint intelligence of thousands of humans do understand and plan complex structures, so the AGI will too if it is an AGI.

100

I define AGI as a "being" possesing intelligence equivalent to the sum of thousands of humans (cannot judge technical feasibility of this or how long it will take). I assume it exists and that it needs the physical structure to survive + wants to survive. Question: could it create and control it?

(With the risk of being labeled amateur and waving magic hands). I think the question of whether AGI can manage the complexity of creating/managing physical structures (compute, energy...) has to be divided into subparts. Long answer ->

It’s smart and funny. But also very accurate for how some with grand ideas (don’t know if Singer) motivate being dicks in private.

Daniel Spiro @danielspiro.bsky.social · 30/09/2026

And then they blame EU-ETS for Europe’s loss of the automobile industry.

0100

Daniel Spiro @danielspiro.bsky.social · 30/09/2026

Happened to us too, once. Comments were generic and wrong in a weird way. We wrote to the editor about it. Didn’t get a response on it particularly, but we wrote to signal that there was no way we could address the review within the format of the journal.

001

Daniel Spiro @danielspiro.bsky.social · 27/09/2026

Surprised Trump doesn’t insist on Intelligence of America

000

Daniel Spiro @danielspiro.bsky.social · 23/09/2026

Vinstdrivande skolkoncerner går ihop med tech bros. Vad kan gå fel?

140

Daniel Spiro @danielspiro.bsky.social · 18/09/2026

Någon kanske ska berätta för dom att Respekt-klausulen (som hindrat dom från att klaga när SD visat respektlöshet mot andra) nu inte längre binder dom.

160

Daniel Spiro @danielspiro.bsky.social · 17/09/2026

Skulle vi ha omröstning om skolsystemet skulle det vara helt avgörande vilka två alternativ som ställs mot varandra. Och som du ju vet bättre än jag så finns ju otaliga ändringar och kombinationer av ändringar man kan tänka sig.

011

Daniel Spiro @danielspiro.bsky.social · 17/09/2026

Man ska vara väldigt restriktiv med folkomröstningar i största allmänhet. Det bör prioriteras för konstitutionella frågor (där utfallet påverkar mycket annat) såsom gå med i EU eller/eller frågor där det finns två tydliga alternativ såsom höger-vänster-trafik. ->

Daniel Spiro @danielspiro.bsky.social · 16/09/2026

Fully agree of course. More sanctions on Russia and more help to Ukraine needed.

010

Daniel Spiro @danielspiro.bsky.social · 16/09/2026

agree, about european public, that's a "problem" of living in a democracy

Daniel Spiro @danielspiro.bsky.social · 16/09/2026

Does the cost have to be publicly stated? For all I know the EU may be doing things in Russia and for sure we are already helping Ukraine. And for all I know it could be that the EU is informing Russia through back channels that this help will increase due to Russia's hybrid attacks.

Ja, klart. Kan ju ha varit en enstaka formulering. Men detta var ändå valtalet så tänkte att den bearbetats en del iaf.

010

Etiketten är taktisk. Mest slående var ju när Mister budgetdisciplin (Anders Borg) gick ut och varnade för det ekonomiska moras som kommer ske vid regeringsbyte. Jag fattar ju hans kritik, men det var ju fullständigt perspektivlöst givet att Tidö knäckt budgetramverket.

100

Med lån. Tiden där Höger stod för "låt oss vara noggranna i prioriteringerna för hur vi använder statens budget" är över. Vårat finanspolitiska ramverk är knäckt. Likaså grundprincipen att folk får ta ansvar för sina egna konsumtionsval, dvs staten försäkrar inte priset på olika varor.

121

Typically, that supporting-but-not-in-gov party will vote Abstain. But that is fine, the gov may still pass. Minority governments are very common in Sweden for this reason. Whether they are fragile or unstable only depends on whether they have a stable coalition accepting them.

031

Typically, first the biggest bloc will get a try in forming government and propose that to the parliament. Some parties in that bloc can formally be out of the proposed gov (like SD in the current gov). If >50% of parliament vote Yes or Abstain then the gov passes. ->

131

That distinction (majority or minority gov) isn't that important by the Swedish rules. It is not the case that the rules say that first we try the majority government options and if all fail we try minority-gov options. To get a gov passed, there cannot be a parliamentary vote _against_ it. ->

161

Notera att siffrorna är antal röstande per plats. Det innebär att steget upp eller ner en plats som mest kommer vara hälften av siffran (dvs <10000 i riksdag) men många gånger mycket närmare än så.

000

Enskilda röster spelar större roll än folk tror även när blocken inte är jämna: 1) Riksdag: varje mandat motsvarar ca 20000 röster, påverkar fördelning inom majoritet, känslighet för vildar mm 2) Kommun: Få röster bakom varje plats i fullmäktige. Tex i min kommun bara 750 röster/plats. ->

160

Nån mer som noterade Thand-Ringqvists formulering om regeringsbildning i valtalet: tänker inte stödja/sitta i regering som _domineras_ av ytterkantspartier Det är inte en röd linje mot koalition av S+C+MP+V iom att V inte kommer _dominera_ där (tsk från Tidö som ju domineras av SD).

1122

Ska läggas till att de även kollar på när prognosen stabiliseras. Dvs om prognosen ändras när nya räknade distrikt tas med. Nu tycks den ha stabiliserats!

020

Och, iom att det är nära så kan ju ett litet fel i prognosen bli väldigt avgörande.

Ja. I grunden bygger prognosen på att man låter ändring i räknat distrikt med viss demografi förutsäga ändring i oräknat med liknande demografi. Om något ändrats i samhället så annat än demografi förklarar hur folk röstar då kommer precisionen minska. ->

Så: prognosen innehåller alltså utlandsröster, men möjligtvis med sämre precision.

230

Aha. Prognosen är för hela valresultatet, inkl utland. Metoden är enkel: kolla _förändring_ i räknade distrikt jmf med 2022; anta att oräknade kommer ha samma förändring; oräknade får då= resultat 2022 i oräknade + förändring 2026 i räknade. Samma metod för oräknade utlandsröster.

230

Jag vet ca hur den görs. På vilken nivå förstår du inte?

Jag tänker lägga alla barnens pengar på bensin!

Men bra att dom prioriterade bränsleskattesänkningar istället, och elstöd, och sänkning av matmoms.

Detta är mestadels personer som bjuder på sin tid och energi, de är generellt välmenande och vill göra er kommun, region eller Sverige bättre. Även om man inte tror på just deras recept för att göra saker bättre, så är det bra att folk har en sån vilja och ställer upp med tid och energi.

020