こんにちは！今日はどのようにお手伝いできますか？(318.90tokens/s)
LFMって日本語の性能がかなり悪かったのですが、今回日本語特化モデルがリリースされました。
318.90トークン毎秒。Prefillも爆速で、数万トークンの入力を数秒で処理します。
私の二次創作小説を読ませた結果がこちら。
この文章は、吸血鬼であるフランドールと小悪魔という存在との対立や葛藤が中心テーマとなっており、単なる暴力行為だけでなく、精神的な苦悩や自己認識の欠如といった深層心理が描かれています。
フランドールは長期にわたる抑圧や孤独感から来る精神的ストレスに苦しんでおり、小悪魔はその不安定さを利用して暴力へと発展します。この関係性は、単なる「悪魔対人間」の構図を超えて、人間の内面的な葛藤を象徴しています。小悪魔の行動は、フランドール自身の抑圧された感情や自己防衛機制の表出とも解釈でき、二者の衝突は互いの無意識の延長線上にあると言えるでしょう。
また、物語全体を通じて「円環的因果律」という概念が繰り返し登場します。フランドールの暴力と小悪魔の反撃、そしてその結果としての死に至る過程は、一連の行動が互いに影響し合い、最終的に破綻へと導く構造を示しています。これは、個人の内面的な問題が周囲の人間関係や環境に波及する様子を描き出しており、単なる外的対立ではなく、深層心理の表れとしての暴力性を浮き彫りにしています。
結論として、この文章は人間の精神状態における暴力の根源を探る試みであり、小悪魔という存在を通じてフランドール自身の内面を映し出しています。読者は、外的な対立の背後にある心理的動機や、抑圧された感情がどのように爆発するのかに強い共感と考察を促されます。
感想をくれと言ったのに勝手に内容をまとめられたのは置いておいて、この文章が1.2Bのパラメータから出力されるんですよ。やばくないですか？ ちなみに言ってることはちょっと間違ってます。
マンデルブロ集合を描画するHTMLおよびJavascriptを書いてくださいと指示したら、正しいコードは書けませんでした。コーディングはまだかな。そりゃそうか。それでもこのサイズで一応書いてはくれたことに驚いています。英語のモデルならすでにこれくらいのことは過去のモデルでもできたのかな？
これはエッジデバイスLLMとして使えるのでわ！？ と思いXperia 1 IIIで推論させてみたところ、11t/sでした。まだ任せられるタスクはないですが、もう一世代進むとなんとなくの翻訳くらいはできそうな気がします。Gemma4-E2Bができるので。
コメント