glorinyaf
u/glorinyaf
あえて正確でない説明を雑にするよ。AIってのは、問題データから正解データを計算するためのパラメータを、大量の問題と正解の組み合わせデータから探す仕組み、なんやね。
例えば式がy=ax+bだったら、(x=1, y=3)と(x=2,y=5)の2つの問題回答データがあればパラメータa=2, b=1が求められるわけなんだけど、言語モデルAIなんかだとパラメータが100兆個とかあって、データなんかそれを遥かに超える量が必要だったりするので、とてもまともな計算なんてできない。
そこで、まず100兆のパラメータに適当に全部ゼロとか入れて、一回問題xを入れて回答yを求めてみる。するとほんとうは欲しかった正解のyとの誤差がわかるので、つぎに少しパラメータをいじって、また誤差を求めてみる。これをひたすら何億回も計算を繰り返して誤差を最小にするパラメータを求めるのが、AIの学習という考え方。こうしてパラメータが決まれば次からどんな複雑な問題データでも一発で正解が出せるようになる。
で、決まるまでは、闇雲にパラメータをいじっても埒があかないので、いじる方向を決めるために、この誤差の計算式をグラフにして、この誤差が小さくなる方向、つまり今のパラメータ時点でのグラフの「傾き」が下に向かう方向を計算して、そっちに向かって次のパラメータをいじるんだ。この傾き計算が、微分ってわけだ
いじっては傾きを計算し、いじっては計算し、を繰り返していくと、この誤差グラフは谷の形をしているのでいずれ傾きがゼロになる。例えばでこぼこの面でガラス玉を転がすと、いずれ凹んだところで玉は止まるよね。凹んだところが一番低い底で、球が止まったところは傾きがゼロ。傾きゼロ=微分ゼロポイントが、誤差が1番少ないパラメータの最適解ってことになるわけだ。
言葉をしゃべる言語モデルAIも、大量の文章データを数字に変換してこの学習をやってるよ
二次絵を量産できるようにするのだ。エッチなのはいけないと思いますとか言われるんだろうな