新着記事

AIと壁打ちするときに気をつけていること

AIと壁打ちするときに気をつけていること

はじめにこの記事ではAI=LLMと読み替えてください。AIの普及と性能の向上から、AIと壁打ちすることは当たり前の行為になっていると思います。私自身もよく使っています。自分では気づかなかった視点が出てくることもあって、思考の整理には便利です…

続きを読む →
AIエージェントのROI、どう考える? 現場で使える試算の勘所と落とし穴

AIエージェントのROI、どう考える? 現場で使える試算の勘所と落とし穴

はじめにAIエージェントを導入したいけれど、費用対効果をどう説明すればいいかわからない。社内稟議を通すにも、クライアントに提案するにも、ROIの話は避けて通れない。でも、いざ試算しようとすると「何の数字から手をつければいいのか」で止まってし…

続きを読む →
生成AIの次の進化:成果物と次アクションまでつなぐAIエージェント

生成AIの次の進化:成果物と次アクションまでつなぐAIエージェント

朝9:00。Slackに「今日の判断だけ」が届く。成果物はすでに揃っていて、人は“最終決定”だけを押せばいい。生成AIは、現場を「軽く」しました。文章作成、要約、調査、分類——手を動かす作業は確かに速くなった。続きをみる

続きを読む →
スプレッドシートでのLLM評価はもう限界!LangfuseとDatadogで構築したLLMOps基盤の全貌

スプレッドシートでのLLM評価はもう限界!LangfuseとDatadogで構築したLLMOps基盤の全貌

はじめに株式会社CaratでLLMアプリケーション「AIジョブサーチ」の開発エンジニアをしているスカイです。サービスリリースから約1.5年経過しMAUは約3万人が利用するサービスとなりました。サービスの利用者が増えるごとに、LLMの出力評価…

続きを読む →
AIで講義の「わからない」を解消!リアルタイム文字起こし+チャットボット PoC事例

AIで講義の「わからない」を解消!リアルタイム文字起こし+チャットボット PoC事例

静的音声は高精度で自動文字化、リアルタイム処理の課題も明確化。次フェーズへ向け改善方針を共有ゼネフィ合同会社(本社:東京都千代田区、代表社員:脇山 空)は、教育サービスを手がける会社向けに開発を進めていた「AI講師サブシステム(音声自動文字…

続きを読む →
Google ColabでUnslothを使いLlamaのファインチューニングを試してみた

Google ColabでUnslothを使いLlamaのファインチューニングを試してみた

はじめにCaratの脇山です。最近、モデルサイズが比較的小さく精度も高いオープンLLMモデルがどんどん登場しています。私は時々70Bのモデルを自分のPCで動かしています。しかし、70BサイズのモデルをPCで動かそうとすると発熱や生成速度が遅…

続きを読む →