Sign in

Satoki Ishikawa

@satoki-ishikawa.bsky.social
53 followers 461 following 211 posts

Institute of Science Tokyo / R. Yokota lab / Neural Network / Optimization riverstone496.github.io

PostsRepliesMedia
Satoki Ishikawa @satoki-ishikawa.bsky.social · 3h
諸々の締切が終わったので休憩に楽しそうな論文を読みたいということで,chatGPTに私の好みを入力して,「何を読めばいい?」と聞いたら,推薦してきた論文.RNNの学習dynamicsのLinear Network解析.趣味嗜好を完全に把握されている... arxiv.org/abs/2606.00243
arxiv.org
Dynamics and Representation Structure of Local Approximations to Gradient-Based Learning in Linear Recurrent Neural Networks
Biological and neuromorphic recurrent neural networks (RNNs) are subject to spatial and temporal locality constraints on the information that can plausibly be used during learning. A common strategy t...
030
Satoki Ishikawa @satoki-ishikawa.bsky.social · 14h
LLM生成された大量の証明は,私にとっては読んでいて面白くなさそうなので,それよりはむしろ,ファインマン物理学のように,人間が読んでいて面白くてかつ,独創的な感動するtextbookを生成してほしいのですが...ベンチマークが難しそうですよね.ファインマン物理学的な文章が恋しくなる.
031
Satoki Ishikawa @satoki-ishikawa.bsky.social · 14h
OpenAIの発表には,掛け算の効率化や,パーセプトロンに関する未解決問題に関するpreprintも含まれているようだが,私の専門からは遠すぎて,何もわからない...
000
Reposted by Satoki Ishikawa
Mari Hashimoto /橋本麻里 @malli.bsky.social · 05/10/2026
千年の美意識を映す 『源氏物語』展へ www.tjapan.jp/art/17865135 明日、10月6日(火)から京都国立博物館 、そして2027年1月19日(火)に東京国立博物館へ巡回する特別展『源氏物語 王朝のかがやき』。 その見どころを井並林太郎主任研究員(京都国立博物館)にがっつりインタビューした記事が公開されました。 国立博物館での「源氏物語」展は、1975年の京都国立博物館『特別展覧会「源氏物語の美術」』以来、なんと51年ぶりです。
tjapan.jp
千年の美意識を映す 『源氏物語』展へ - T JAPAN:The New York Times Style Magazine 公式サイト
今年10月から京都国立博物館、そして来年1月から東京国立博物館で開催される特別展『源氏物語 王朝のかがやき』。国内屈指の博物館が総力を挙げて、かつてない規模で『源氏物語』の奥深い世界を届ける展覧会の見どころを、橋本麻里がナビゲートする。
19752
Satoki Ishikawa @satoki-ishikawa.bsky.social · 05/10/2026
都響,大野さんの退任記念講演は,マーラー9番! 大野さんは芸術監督に就任して13年ということで,都響の顔といえば大野さん.偶然にも,順調にいけば,学生最後の年に大野さんが退任してマーラー9番を振るというのは,今から心がいっぱいになりそう. www.tmso.or.jp/j/news/36293/
tmso.or.jp
<span class="txt-accent">2027年度楽季ラインナップ発表</span> │ 東京都交響楽団
東京都交響楽団公式サイト。コンサートスケジュールやチケット、オーケストラの紹介。
000
Satoki Ishikawa @satoki-ishikawa.bsky.social · 05/10/2026
ECML,今年はジャーナルトラックはないのか🤔
010
Satoki Ishikawa @satoki-ishikawa.bsky.social · 27/09/2026
> Science is built up with facts, as a house is with stones. But a collection of facts is no more a science than a heap of stones is a house by Poincaré 鯨構文に反応... arxiv.org/abs/2609.28603
arxiv.org
Learning to Discover Interesting Mathematics
Recently, Large Language Models (LLMs) have been increasingly able to solve advanced mathematical problems, including many that have been open for decades. This opens the door to expansion of mathemat...
131
Satoki Ishikawa @satoki-ishikawa.bsky.social · 26/09/2026
今やっていた研究,本質的には,DamianのEoS論文の(意外な)応用先と,single-index model論文のpractical utilityの2本立てとなっており,Damianのファンみたいになっている😅
120
Satoki Ishikawa @satoki-ishikawa.bsky.social · 17/09/2026
ここ最近,昼間体調が悪く寝込んでしまい,夜になると元気. ただそろそろ帰国するため,時差により昼夜が逆になるので,日本時間ならこの生活で問題ない...体が早くから勝手に時差ボケを解消しようとしている可能性がある🤔
030
Satoki Ishikawa @satoki-ishikawa.bsky.social · 16/09/2026
Aのtopicで英語のmeetingをよく行っているとAでは自然にできるが,それとは違うtopicのBでmeetingすると,辿々しくなる...
100
Satoki Ishikawa @satoki-ishikawa.bsky.social · 14/09/2026
11月のアンデルジェフスキのコンサートの予習として,彼の最近の録音を聴いていたが,このバッハ,自由で開放的.創造性を刺激させられる. music.apple.com/jp/album/bac...
music.apple.com
ピョートル・アンデルジェフスキの「Bach: Well-Tempered Clavier, Book 2 (Excerpts)」をApple Musicで
アルバム・2021年・24曲
010
Satoki Ishikawa @satoki-ishikawa.bsky.social · 13/09/2026
私はフランス語がわからなくて,相手は英語がわからなくて,拙いフランス語で受け答えしていたら,フォッカチャとコーヒーを頼んだつもりが,フォッカチャとキャロットケーキが出てきた.
000
Satoki Ishikawa @satoki-ishikawa.bsky.social · 11/09/2026
博士課程の延長が可能みたいにみえるが,どうなのだろうか. x.com/cyberagent_a...
x.com
CyberAgent AI事業本部広報 (@cyberagent_ai) on X
サイバーエージェントのAI Labと東京科学大学が、博士人材のキャリア支援を行う「共創研究員制度」を開始しました。博士後期課程の修了者がAI Labの研究職に従事しながら、東京科学大学の特定助教として教育や研究も担当できる、企業と大学の両方に籍を置く新しい取り組みです。 https://t.co/YbUDDoTosi
020
Satoki Ishikawa @satoki-ishikawa.bsky.social · 09/09/2026
やること → ♾️により,眠気 → ♾️により,やること → ♾️のloopが発生...
020
Satoki Ishikawa @satoki-ishikawa.bsky.social · 08/09/2026
ジブリの「となりの山田くん」,心が和むので,食事中に1話ずつ流していたのですが,BGMで平均律第1巻8番が出てきて驚いた.
100
Satoki Ishikawa @satoki-ishikawa.bsky.social · 06/09/2026
私が東京にいない夏は暑さが和らぎ,東京にいない冬は寒さが和らぐ...避暑&避寒になっていない😇
010
Satoki Ishikawa @satoki-ishikawa.bsky.social · 05/09/2026
色々と研究テーマを試しているうちに,だんだんと「計算量的に無茶で最初から計算しようとは思わないものを,実際に計算してみたらどうなるか?」みたいなのをやりたかったのだと,わかってきた.
110
Reposted by Satoki Ishikawa
wasyro @wasyro.bsky.social · 30/08/2026
カンファ論文におけるAppendixの作り方って案外教えられないよね 何がAppendixで示されているかをmain textの適切な位置に適切な文言で配置する、main textの主張に矛盾する結果をAppendixに載せない、Appendixは雑多な実験結果置き場ではない、etc.
041
Satoki Ishikawa @satoki-ishikawa.bsky.social · 31/08/2026
You could easily multitask while monitoring wandb, but if you catch yourself just staring blankly at the screen and convincing yourself you're doing research, that's a huge red flag. You're totally tired and need a coffee and a handful of vitamins☕️
010
Satoki Ishikawa @satoki-ishikawa.bsky.social · 31/08/2026
NNの研究で『数値計算の常識』の知識がここまで必要になることが来るとは...
020
Satoki Ishikawa @satoki-ishikawa.bsky.social · 30/08/2026
暇になるのが怖い vs タスクが貯まるのが怖い vs インターン行っておかないと就職どこにもできないんじゃないか🔥
100
Satoki Ishikawa @satoki-ishikawa.bsky.social · 30/08/2026
研究には,「証明の生成」「検証」「説明」「出版」「標準化,つまり教科書化」という5つの段階がある.このうち,最初の「生成」と「検証」はAIがかなり得意になってきている.一方で,得られた結果を人間が理解できる形に整理し,わかりやすく説明し,広く共有し,最終的に標準的な知識として定着させていく部分は,これからも人間にとって重要な仕事なのではないか,という話. www.youtube.com/watch?v=M0--...
youtube.com
ICM 2026 Public Lectures - Terence Tao
YouTube video by Simons Foundation
110
Satoki Ishikawa @satoki-ishikawa.bsky.social · 30/08/2026
藤田真央さん,曲目を見ているだけでワクワクするプログラムですね www.japanarts.co.jp/concert/p2265/
japanarts.co.jp
2夜連続公演 藤田真央ピアノ・リサイタル 2027 | クラシック音楽事務所ジャパン・アーツクラシック音楽事務所ジャパン・アーツ
2夜連続公演 藤田真央ピアノ・リサイタル 2027
020
Satoki Ishikawa @satoki-ishikawa.bsky.social · 28/08/2026
NNのoptimizerの研究に関して言えば,Xをやっている人とXをやっていない人で全く異なるuniverseになっているというのが,最近わかってきた. かなり大雑把な括りとして,Xは中国系frontier企業のやっていることに近いことが多く,XをやっていないコミュニティはUS系frontier企業のやっていることに近い気がする.どちらのuniverseがいいのかはまだわからない.
010
Satoki Ishikawa @satoki-ishikawa.bsky.social · 25/08/2026
「AIが人間を超えた世界で人間は何をするか?猫を愛でよう.RIMSのロゴが指し示すように.」と言われたことがあるが,一足先に猫を愛でる世界を体験している.部屋を訪問してきて,ソファと壁の間の隙間に挟まれて,変な顔になってご満悦な猫を見ていると,全てを忘れて幸せになる.
010
Satoki Ishikawa @satoki-ishikawa.bsky.social · 25/08/2026
optimizerの研究していても,「こういう研究をしていけば,大規模AIモデルの性能改善に向上できるのだな」という方向性が,全く見えていなかったのですが,visitingして,最近のツヨツヨAI企業のモデル開発にどう活かされているかを知れると,何をすると最近のモデルの性能改善に実際に役立つのかが何となくわかり,研究の方向性のモチベーションになる.
130
Satoki Ishikawa @satoki-ishikawa.bsky.social · 25/08/2026
ICLRとNeurIPSよりもう少し小さめで専門性が高い,AISTATS,MLSys,CoLLAs,UAIあたりのproになりたい
020
Satoki Ishikawa @satoki-ishikawa.bsky.social · 24/08/2026
アカデミアでの就活は全く様子がわからなく,みんなで「わからない,どうやって行く先を決めればいいのだ」となっている...
110
Satoki Ishikawa @satoki-ishikawa.bsky.social · 23/08/2026
AISTATSの締め切りが出るの遅い...
100
Satoki Ishikawa @satoki-ishikawa.bsky.social · 23/08/2026
IJCAIとCOLTが日本であるのは,気軽に行けそうで楽しみですね
010
Satoki Ishikawa @satoki-ishikawa.bsky.social · 22/08/2026
LLM回している人たちに聞くと,ちゃんとやれば,MuonよりSOAPのほうが性能がいいはずなんですよね.理論的な解析はSpectral GDでいいとして,実験とのつながりで研究する場合,やはり,SOAPをやるべきではという気持ちが強まっている. arxiv.org/abs/2607.20548
arxiv.org
SOAP, Muon, and Beyond: Pushing LLM Pretraining Scales
Higher-order optimizers such as Muon and SOAP offer faster convergence than AdamW, but their computational cost and numerical stability challenges have limited adoption at scale. In this work, we adap...
030
Satoki Ishikawa @satoki-ishikawa.bsky.social · 20/08/2026
そして,カナダの猫,部屋を訪問する猫以外もみんなフレンドリーで,道端で会うと私の方によってに来て,すりすりしてくるのですよね…猫にも国民性がある???
120
Satoki Ishikawa @satoki-ishikawa.bsky.social · 20/08/2026
海外インターン行くか起業するかしていて,メンターが不在ですね😇
051
Satoki Ishikawa @satoki-ishikawa.bsky.social · 19/08/2026
研究所に向かおうと歩いていたら,前から猫がやってきた.鳴いて挨拶したら周りを彷徨いてアピールしてきたので,どうしたんだろうと思ったら,自分の部屋まで引き帰させられて,表玄関まで行ったら,ドア開けろ!とアピールされた.結局家に入れたら,表玄関から裏玄関まで行って,散歩のショートカットしていた.ほぼ確実に私を認識してその部屋まで覚えていたように感じる.猫賢すぎる.
172
Satoki Ishikawa @satoki-ishikawa.bsky.social · 19/08/2026
今日の猫.賢くて可愛かった.すごいことが起きた.
010
Satoki Ishikawa @satoki-ishikawa.bsky.social · 17/08/2026
前のツイートで「速い思考=長く冗長」と思っていたが,これは違うなと,村上春樹のエッセイを読み返していて思った. 『結局のところ、シューベルトのピアノ・ソナタの持つ「冗長さ」や「まとまりのなさ」や「はた迷惑さ」が、今の僕の心に馴染むからかもしれない。(中略)構築は甘いし、全体の意味が見えにくいし、とりとめなく長すぎる。しかしそこには、そのような瑕疵かしを補ってあまりある、奥深い精神の率直なほとばしりがある。そのほとばしりが、作者にもうまく統御できないまま、パイプの漏水のようにあちこちで勝手に漏水し、ソナタというシステムの統合性を崩してしまっているわけだ。』(『意味がなければスイングがない』)
000
Satoki Ishikawa @satoki-ishikawa.bsky.social · 16/08/2026
滞在先のメンターと,slowな思考による研究と,fastな思考による研究,どちらの方が今後,重要になっていくかで議論になった.「LLM時代,fastな思考や探索はLLMができるようになるだろうから,人類の理解を一歩一歩確実に深めていくようなslowな思考こそが大切ではないか」というもの.今の私の進め方は,fastに広く情報を集めてきてそこから,有益なものを拾い集めるという真逆のスタイルになってしまっていた.昔はそこが強みだと勘違いもしていたが,考えていることを誰かと共有するという観点からは,これは弱みだと思い始めてきていたタイミングで言語化されたので,とても心に響いた.
161
Satoki Ishikawa @satoki-ishikawa.bsky.social · 10/08/2026
研究,霧を彷徨っていてオアシスを発見したと思ったら蜃気楼みたいなのを繰り返しており,霧を彷徨っている時間が長いと研究が嫌になり,自分の不甲斐なさに腹も立ってくるが,蜃気楼でもオアシスを見つけることがたまにあると一度全てがリセットされるので,続けてしまう.
010
Satoki Ishikawa @satoki-ishikawa.bsky.social · 10/08/2026
シューベルトのソナタ17番の新譜が出ていた.ミーハーなので,村上春樹のエッセイを読んで以来,17番のソナタは色々な録音を聴いているが,明るいのに切なく寂寥感に満ちた不思議なソナタ. music.apple.com/jp/album/sch...
music.apple.com
アルカディ・ヴォロドスの「Schubert: Piano Sonata No. 17 in D Major, D. 850 – Schumann: Kinderszenen, Op. 15」をApple Musicで
アルバム・2026年・17曲
000
Satoki Ishikawa @satoki-ishikawa.bsky.social · 03/08/2026
全て聞けるようになったので聞いてみた.ただひたすらに何かを追い求めてつかもうと1人孤独に進んでいくのを一緒に体験しているよう.
010
Satoki Ishikawa @satoki-ishikawa.bsky.social · 23/07/2026
4日連続🐈訪問
000
Satoki Ishikawa @satoki-ishikawa.bsky.social · 19/07/2026
猫,今週は3日も訪問してくれた.嬉しい.
110
Satoki Ishikawa @satoki-ishikawa.bsky.social · 15/07/2026
今日も猫が来た.裏口を叩いて開けてくれってアピールしてきて可愛い🐈散歩のショートカットルートの1つとして採用してくれたらしい.
020
Satoki Ishikawa @satoki-ishikawa.bsky.social · 12/07/2026
裏口の前で猫がいたのでドアを開けたら,スルッと入ってきて,家を周回していった.そして,表玄関の前で「ニャー」と鳴いたので,玄関開けたら帰っていった.玄関から出たら,立ち止まってこちらを振り向いて「ニャー」と感謝を述べていて,猫って賢くて礼儀正しいと思って感激した.
110
Satoki Ishikawa @satoki-ishikawa.bsky.social · 03/07/2026
ランドリーの隣に蕎麦を売っている店を見つけた結果,毎日のように蕎麦を食べている.おそらく日本へのノスタルジーの一種🤔 蕎麦は日本食の王道として輝いている😂
000
Satoki Ishikawa @satoki-ishikawa.bsky.social · 02/07/2026
昨年聴きに行った光子さんのBeethoven SonataのRecordingが発売されるらしい.すでに一部だけ聴けるが,過去のどの録音よりも絶望と孤独を感じる31番で,やはりすごい... music.apple.com/jp/album/bee...
music.apple.com
内田光子の「Beethoven: Piano Sonatas, Opp. 109, 110 & 111 (Live at Suntory Hall, Tokyo, 2025)」をApple Musicで
アルバム・2026年・9曲
020
Satoki Ishikawa @satoki-ishikawa.bsky.social · 25/06/2026
GoogleカレンダーとGoogle Tasksをもとに,「今日この時間はこれをやりなさい」みたいな指示出しをしてくれるAIを作れないかな🤔 その時の気分でタスクを選んでいるのがよくない😇
000
Satoki Ishikawa @satoki-ishikawa.bsky.social · 25/06/2026
すぐ隣を悠々と並んで歩いてくれる猫がいた.全く逃げないしとても優雅.
130
Satoki Ishikawa @satoki-ishikawa.bsky.social · 23/06/2026
家に届く葉書がフランス語で自力では全く読めないのだが, 「chatGPTで写真を撮って翻訳する」ができて助かっている.chatGPTがない時代の海外滞在,とても大変そうだが,全部単なるチラシ(当たり前)なので,翻訳する必要がなかったとも言える
020
Reposted by Satoki Ishikawa
Han Bao @han-b.bsky.social · 11/06/2026
It is always fantastic to read old strong papers! I read this by Koltchinskii (30 years ago) today. In this paper, he gave a convex-analytic view of the quantile function (quantile = convex conjugate supremum!), and extend it elegantly to multivariate rvs. projecteuclid.org/journals/ann...
082