Sign in

Satoki Ishikawa

@satoki-ishikawa.bsky.social
53 followers 461 following 219 posts

Institute of Science Tokyo / R. Yokota lab / Neural Network / Optimization riverstone496.github.io

PostsRepliesMedia
Satoki Ishikawa @satoki-ishikawa.bsky.social · 15/10/2026
甘利先生と落合先生の対談 www.youtube.com/watch?v=rn0c...
youtube.com
【日本は世界一だった】先駆けすぎた研究に「ノーベル賞受賞すべき」の声…伝説の数理工学者・甘利俊一が語るAIの“始まりと今”「コンピュータも英語も嫌い」若者に必要なアマチュア力、理論貧困時代【落合陽一】
YouTube video by NewsPicks /ニューズピックス
010 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 12/10/2026
私はその間あたりを彷徨っているので,ここにきて新たな対立軸を増やさないでほしい😇ただし,どちらだと感じるかによって,理論志向か,実験志向か,その間に位置するのかが,わかりそう🤔 もちろん,「どちらもLLMでいいのでは」の派閥も「どちらも人手でやる必要がある」の派閥もあり,それなら対立軸はLLMか人間かになるので,分野間の亀裂はなさそう.
010 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 12/10/2026
LLMと研究について,異なる分野の人たちに話を聞いていて思ったのは,理論よりの人は 「実装はLLMでよくて,最近は人手の確認もしていない.ただし,証明は人間的なものが必要だ.」 と言っている人が多い一方で,実装よりの人は 「数学的な導出や証明は,LLMでいいので,実装は人間が読んでわかりやすい,可読性と保守性が高いコードを人手で書くべきだ.」 と真逆なことを言っている人が多いのですよね...
120 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 10/10/2026
LLMと数学の話を聞くと,学部の講義にて, 「数学は,頭を使わないよう手続きで答えがでるようにすることで,より高度なことを考えられるようにしてきた.(e.g. 鶴亀算→連立方程式→行列→グレブナー基底)これはコンピュータの起源のライプニッツの夢とも関連する.」 という話を聞いたのを思い出す.鶴亀算→グレブナー基底の「形式化して頭を使わないようにした」と「LeanとLLMを使って証明」同じようで違うような感触があり,よくわからない... www.kurims.kyoto-u.ac.jp/~tshun/20200...
kurims.kyoto-u.ac.jp
000 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 10/10/2026
LLMによって数学を始め人類の知的営みが攻略されている現状を歴史的に考えるためにも,「ライプニッツの夢」からチューリング,ノイマンまでの,コンピュータと数学の歴史について,講義してくれるチュートリアルをどこかで開催して欲しい.ライプニッツの思想の「人間の思考を形式的な論理操作や計算に落とし込むことができるなら,人類の争いは終わる.正しい答えを計算するだけでいい.」は結局,現代ではどのくらい残っているのだろうか...
010 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 08/10/2026
日本に帰ってきて猫に会えなくなったのが寂しい
000 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 08/10/2026
芸術と脳科学,カンデルや塚田先生の著作を引っ張り出してきてもう一度読んでみないと,諸々を忘れてしまった...
000 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 08/10/2026
神経科学の文脈では,「芸術を生み出す脳」に関する議論が昔からされてきていると聞きますが,その知見とLLMの学習の接点がどうなっているのか,気になりますね. 昔から,「芸術を生み出す学習則」,「個性を生み出す学習則は何か」みたいな話はありましたが,NN,特に大規模モデルの学習の研究にその思想が引き継がれているのか,逆に今のLLMでもデータを工夫してこのままスケールアップすれば,芸術を生み出す個性が生まれてくるのか🤔
120 0
Reposted by Satoki Ishikawa
ワクワクコンサルBOT @moskomule.bsky.social · 08/10/2026
LLMは型を外れられるのか、気になっている。チャットだと一回対話の型が見つかるとずっと繰り返すし、コード書かせたり実験させていくと型が決まっている範囲内だと強い気がする。数学の与えられた問題を解くとか、インクリメンタル研究するとか、あるいはサーバーを攻撃するとかは型が強いから解けてそう。一方で人は型にはまりつつ少し外れたものを面白いと感じるので。
164 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 07/10/2026
諸々の締切が終わったので休憩に楽しそうな論文を読みたいということで,chatGPTに私の好みを入力して,「何を読めばいい?」と聞いたら,推薦してきた論文.RNNの学習dynamicsのLinear Network解析.趣味嗜好を完全に把握されている... arxiv.org/abs/2606.00243
arxiv.org
Dynamics and Representation Structure of Local Approximations to Gradient-Based Learning in Linear Recurrent Neural Networks
Biological and neuromorphic recurrent neural networks (RNNs) are subject to spatial and temporal locality constraints on the information that can plausibly be used during learning. A common strategy t...
050 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 07/10/2026
LLMに試しに脚注を書かせようとしましたが,まだHal Tasaki的なセンスを感じないですね.ボルツマンが出てきたタイミングで,「ボルツマンは,実は,ブルックナーにピアノを習っていた.ベートーヴェンの交響曲をピアノで弾くのが好きだった.」みたいな脚注を書くセンス.
130 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 07/10/2026
LLM生成された大量の証明は,私にとっては読んでいて面白くなさそうなので,それよりはむしろ,ファインマン物理学のように,人間が読んでいて面白くてかつ,独創的な感動するtextbookを生成してほしいのですが...ベンチマークが難しそうですよね.ファインマン物理学的な文章が恋しくなる.
031 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 07/10/2026
OpenAIの発表には,掛け算の効率化や,パーセプトロンに関する未解決問題に関するpreprintも含まれているようだが,私の専門からは遠すぎて,何もわからない...
000 0
Reposted by Satoki Ishikawa
Mari Hashimoto /橋本麻里 @malli.bsky.social · 05/10/2026
千年の美意識を映す 『源氏物語』展へ www.tjapan.jp/art/17865135 明日、10月6日(火)から京都国立博物館 、そして2027年1月19日(火)に東京国立博物館へ巡回する特別展『源氏物語 王朝のかがやき』。 その見どころを井並林太郎主任研究員(京都国立博物館)にがっつりインタビューした記事が公開されました。 国立博物館での「源氏物語」展は、1975年の京都国立博物館『特別展覧会「源氏物語の美術」』以来、なんと51年ぶりです。
tjapan.jp
千年の美意識を映す 『源氏物語』展へ - T JAPAN:The New York Times Style Magazine 公式サイト
今年10月から京都国立博物館、そして来年1月から東京国立博物館で開催される特別展『源氏物語 王朝のかがやき』。国内屈指の博物館が総力を挙げて、かつてない規模で『源氏物語』の奥深い世界を届ける展覧会の見どころを、橋本麻里がナビゲートする。
19852 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 05/10/2026
都響,大野さんの退任記念講演は,マーラー9番! 大野さんは芸術監督に就任して13年ということで,都響の顔といえば大野さん.偶然にも,順調にいけば,学生最後の年に大野さんが退任してマーラー9番を振るというのは,今から心がいっぱいになりそう. www.tmso.or.jp/j/news/36293/
tmso.or.jp
<span class="txt-accent">2027年度楽季ラインナップ発表</span> │ 東京都交響楽団
東京都交響楽団公式サイト。コンサートスケジュールやチケット、オーケストラの紹介。
000 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 05/10/2026
ECML,今年はジャーナルトラックはないのか🤔
010 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 27/09/2026
英文法の授業にて暗唱する英文を"A whale is no more a fish than a horse is"ではなく,"A collection of facts is no more a science than a heap of stones is a house"にすることで,英文法を学びつつ,LLM時代の科学リテラシーを上げる😂
010 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 27/09/2026
> Science is built up with facts, as a house is with stones. But a collection of facts is no more a science than a heap of stones is a house by Poincaré 鯨構文に反応... arxiv.org/abs/2609.28603
arxiv.org
Learning to Discover Interesting Mathematics
Recently, Large Language Models (LLMs) have been increasingly able to solve advanced mathematical problems, including many that have been open for decades. This opens the door to expansion of mathemat...
131 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 27/09/2026
私の怠惰により,まだ,arXivとしては公開できていないです...
100 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 26/09/2026
今やっていた研究,本質的には,DamianのEoS論文の(意外な)応用先と,single-index model論文のpractical utilityの2本立てとなっており,Damianのファンみたいになっている😅
120 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 17/09/2026
ここ最近,昼間体調が悪く寝込んでしまい,夜になると元気. ただそろそろ帰国するため,時差により昼夜が逆になるので,日本時間ならこの生活で問題ない...体が早くから勝手に時差ボケを解消しようとしている可能性がある🤔
030 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 16/09/2026
技術や実験よりの話題でのmeetingに慣れていても,数式が多く登場する場合,数式のspeakingやlisteningで難がある...
010 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 16/09/2026
Aのtopicで英語のmeetingをよく行っているとAでは自然にできるが,それとは違うtopicのBでmeetingすると,辿々しくなる...
100 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 14/09/2026
11月のアンデルジェフスキのコンサートの予習として,彼の最近の録音を聴いていたが,このバッハ,自由で開放的.創造性を刺激させられる. music.apple.com/jp/album/bac...
music.apple.com
ピョートル・アンデルジェフスキの「Bach: Well-Tempered Clavier, Book 2 (Excerpts)」をApple Musicで
アルバム・2021年・24曲
010 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 13/09/2026
私はフランス語がわからなくて,相手は英語がわからなくて,拙いフランス語で受け答えしていたら,フォッカチャとコーヒーを頼んだつもりが,フォッカチャとキャロットケーキが出てきた.
000 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 11/09/2026
博士課程の延長が可能みたいにみえるが,どうなのだろうか. x.com/cyberagent_a...
x.com
CyberAgent AI事業本部広報 (@cyberagent_ai) on X
サイバーエージェントのAI Labと東京科学大学が、博士人材のキャリア支援を行う「共創研究員制度」を開始しました。博士後期課程の修了者がAI Labの研究職に従事しながら、東京科学大学の特定助教として教育や研究も担当できる、企業と大学の両方に籍を置く新しい取り組みです。 https://t.co/YbUDDoTosi
020 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 09/09/2026
やること → ♾️により,眠気 → ♾️により,やること → ♾️のloopが発生...
020 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 08/09/2026
平均律第1巻のpreludeでいえば,8番,16番と22番が好きなので,もっと使われてほしい.フーガだと4番,22番に24番.
010 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 08/09/2026
ジブリの「となりの山田くん」,心が和むので,食事中に1話ずつ流していたのですが,BGMで平均律第1巻8番が出てきて驚いた.
100 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 06/09/2026
私が東京にいない夏は暑さが和らぎ,東京にいない冬は寒さが和らぐ...避暑&避寒になっていない😇
010 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 05/09/2026
それで性能が上がって万歳というよりは,「そんなの計算したの!どうして!?」ってなるような,頭が悪いような実験をしたい.最初からその方向性で試していて,なかなかうまくいっていなかったのですが...
010 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 05/09/2026
色々と研究テーマを試しているうちに,だんだんと「計算量的に無茶で最初から計算しようとは思わないものを,実際に計算してみたらどうなるか?」みたいなのをやりたかったのだと,わかってきた.
110 0
Reposted by Satoki Ishikawa
wasyro @wasyro.bsky.social · 30/08/2026
カンファ論文におけるAppendixの作り方って案外教えられないよね 何がAppendixで示されているかをmain textの適切な位置に適切な文言で配置する、main textの主張に矛盾する結果をAppendixに載せない、Appendixは雑多な実験結果置き場ではない、etc.
041 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 31/08/2026
You could easily multitask while monitoring wandb, but if you catch yourself just staring blankly at the screen and convincing yourself you're doing research, that's a huge red flag. You're totally tired and need a coffee and a handful of vitamins☕️
010 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 31/08/2026
NNの研究で『数値計算の常識』の知識がここまで必要になることが来るとは...
020 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 30/08/2026
暇になったら自分の研究をすればいい vs 同期はその時間でインターン行っている
000 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 30/08/2026
暇になるのが怖い vs タスクが貯まるのが怖い vs インターン行っておかないと就職どこにもできないんじゃないか🔥
100 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 30/08/2026
最近の日本語の供給源がchatGPTとSNSやSlackでのツイートになっており,SNSのツイートにchatGPTを使い出すと,いよいよ私の日本語がchatGPTに完全に支配されることになる😇
000 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 30/08/2026
とchatGPTがまとめた😅(説明能力でも既に負けている😱)
100 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 30/08/2026
最近,いろいろな人から,「AIが発展していく中での人間の価値を考えた時に,速く答えを出すだけでなく,ゆっくり考えて,深く理解し,わかりやすく説明することが大切」と言われることが増えた.この動画は,なぜそうした能力が重要になるのかを,研究のプロセスという観点から整理して考えるための,よい補助線になった.
100 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 30/08/2026
研究には,「証明の生成」「検証」「説明」「出版」「標準化,つまり教科書化」という5つの段階がある.このうち,最初の「生成」と「検証」はAIがかなり得意になってきている.一方で,得られた結果を人間が理解できる形に整理し,わかりやすく説明し,広く共有し,最終的に標準的な知識として定着させていく部分は,これからも人間にとって重要な仕事なのではないか,という話. www.youtube.com/watch?v=M0--...
youtube.com
ICM 2026 Public Lectures - Terence Tao
YouTube video by Simons Foundation
110 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 30/08/2026
藤田真央さん,曲目を見ているだけでワクワクするプログラムですね www.japanarts.co.jp/concert/p2265/
japanarts.co.jp
2夜連続公演 藤田真央ピアノ・リサイタル 2027 | クラシック音楽事務所ジャパン・アーツクラシック音楽事務所ジャパン・アーツ
2夜連続公演 藤田真央ピアノ・リサイタル 2027
020 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 28/08/2026
NNのoptimizerの研究に関して言えば,Xをやっている人とXをやっていない人で全く異なるuniverseになっているというのが,最近わかってきた. かなり大雑把な括りとして,Xは中国系frontier企業のやっていることに近いことが多く,XをやっていないコミュニティはUS系frontier企業のやっていることに近い気がする.どちらのuniverseがいいのかはまだわからない.
010 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 25/08/2026
「AIが人間を超えた世界で人間は何をするか?猫を愛でよう.RIMSのロゴが指し示すように.」と言われたことがあるが,一足先に猫を愛でる世界を体験している.部屋を訪問してきて,ソファと壁の間の隙間に挟まれて,変な顔になってご満悦な猫を見ていると,全てを忘れて幸せになる.
010 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 25/08/2026
optimizerの研究の中にも,アカデミアがやった方がいい研究だが,アカデミアがほとんどやっていない方向性のために,企業が開発の片手間でやっている系の研究があるのだなというのがわかった.ただ,そういう情報が今までは全くなかった.
010 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 25/08/2026
optimizerの研究していても,「こういう研究をしていけば,大規模AIモデルの性能改善に向上できるのだな」という方向性が,全く見えていなかったのですが,visitingして,最近のツヨツヨAI企業のモデル開発にどう活かされているかを知れると,何をすると最近のモデルの性能改善に実際に役立つのかが何となくわかり,研究の方向性のモチベーションになる.
130 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 25/08/2026
ICLRとNeurIPSよりもう少し小さめで専門性が高い,AISTATS,MLSys,CoLLAs,UAIあたりのproになりたい
020 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 25/08/2026
これで急にさらに前倒しになっていると困りますが,過去5年の平均の周辺だと信じたいですね🙏
010 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 24/08/2026
アカデミアでの就活は全く様子がわからなく,みんなで「わからない,どうやって行く先を決めればいいのだ」となっている...
110 0
Satoki Ishikawa @satoki-ishikawa.bsky.social · 23/08/2026
AISTATSの締め切りが出るの遅い...
100 0