タグ

LLM

11本の記事

AIと壁打ちするときに気をつけていること

はじめにこの記事ではAI=LLMと読み替えてください。AIの普及と性能の向上から、AIと壁打ちすることは当たり前の行為になっていると思います。私自身もよく使っています。自分では気づかなかった視点が出てくることもあって、思考の整理には便利です…

AIエージェントのROI、どう考える? 現場で使える試算の勘所と落とし穴

はじめにAIエージェントを導入したいけれど、費用対効果をどう説明すればいいかわからない。社内稟議を通すにも、クライアントに提案するにも、ROIの話は避けて通れない。でも、いざ試算しようとすると「何の数字から手をつければいいのか」で止まってし…

AIで講義の「わからない」を解消!リアルタイム文字起こし+チャットボット PoC事例

静的音声は高精度で自動文字化、リアルタイム処理の課題も明確化。次フェーズへ向け改善方針を共有ゼネフィ合同会社(本社:東京都千代田区、代表社員:脇山 空)は、教育サービスを手がける会社向けに開発を進めていた「AI講師サブシステム(音声自動文字…

Google ColabでUnslothを使いLlamaのファインチューニングを試してみた

はじめにCaratの脇山です。最近、モデルサイズが比較的小さく精度も高いオープンLLMモデルがどんどん登場しています。私は時々70Bのモデルを自分のPCで動かしています。しかし、70BサイズのモデルをPCで動かそうとすると発熱や生成速度が遅…