ペパボ研究所 研究員／シニア・プリンシパルエンジニアの三宅（@monochromegane）です。 VRAMに収まらない規模のMixture-of-Experts（MoE）モデルを手元のGPUで動かすために、2つのvLLMプラグインを開発しました。 本記事では、その仕組みと性能について紹介します。
高性能なオープンウェイトモデルが相次いで公開され、これを自組織の環境で動かす選択肢が広がっています。
一方で、規模の大きなモデルを動かすためのGPUの確保は難しいままです。 例え...
この記事をもっと読む
ペパボ研究所 研究員／シニア・プリンシパルエンジニアの三宅（@monochromegane）です。
先日の第40回人工知能学会全国大会（JSAI2026）での発表では、発表スライドと、研究所紹介のポスターを、いずれもTypstで作成しました。研究所共通のスライドテンプレートを一度作っておき、それを使い回してスライドを書いたり、同じ枠組みでA0サイズのポスターまで仕上げられたりと、想像以上に快適だったので、その経緯と使い方を紹介します。
これまで、ペパボ研究所では発表スライ...
この記事をもっと読む
ペパボ研究所 研究員／シニア・プリンシパルエンジニアの三宅（@monochromegane）です。 2026年6月9日に開催された、第40回人工知能学会全国大会（JSAI2026）で、ペパボ研究所から発表を行いましたので論文とスライドと共に紹介します。
本研究では、メッセージ機能を有する情報システムにおいて、スパム検知のための機械学習モデルの再学習・反映までの時間差を補う、軽量な類似メッセージカウンタを提案しました。機械学習モデ...
この記事をもっと読む
ペパボ研究所 研究員／シニア・プリンシパルエンジニアの三宅（@monochromegane）です。 本記事では、Googleから発表されたベクトル量子化手法 TurboQuant（arxiv 2504.19874）について、ベクトル検索における量子化の観点から読み解いていきます。ベクトル検索の基礎については、以前開催した「ベクトル検索システムの気持ち」で扱っていますので、興味のある方はそちらもご参照ください。
ベクトル検索は、高次元ベクトル空間において、あるクエリベクトル...
この記事をもっと読む
ペパボ研究所 研究員／プリンシパルエンジニアの三宅（@monochromegane）です。 本記事では、ベクトル検索システムに機械学習モデルで算出した指標を組み合わせることで、検索結果を柔軟に制御し、サービス指標に沿った最適化を実現するアプローチについて紹介します。
情報システムとAIの統合において、互いの知識を効率的に引き出すための、ベクトル検索システムの重要性が増しています。ベクトル検索は、画像やテキストなどの多様なデータを高次元の埋め込みベクトル空間に写像し、その距離に...
この記事をもっと読む
ペパボ研究所 研究員／プリンシパルエンジニアの三宅（@monochromegane）です。 2025年9月3日から5日にかけて開催されている、第24回情報科学技術フォーラム（FIT2025）のトップコンファレンスセッションで、ペパボ研究所から発表を行いました。
トップコンファレンスセッションは、各分野におけるトップレベルの国際会議や学術雑誌で近年採録された論文の著者が研究内容を紹介するもので、分野横断的に優れた研究を効率的に把握できる貴重な機会です。
ペパボ研究所 研究員／プリンシパルエンジニアの三宅（@monochromegane）です。
2025年8月、OpenAIよりオープンウェイトモデルとしてgpt-ossが公開されました。 これらのモデルは、軽量ながら既存の強力なモデルに匹敵する性能を示しており、gpt-oss-120bはo4-miniと、gpt-oss-20bはo3-mini と同水準のベンチマーク結果を達成したと報告されています。 また、これらはApache 2.0ライセンスのもとで提供され、単一GPUで効率的な推論が可...
この記事をもっと読む
ペパボ研究所 研究員／プリンシパルエンジニアの三宅（@monochromegane）です。 2025年7月28日に開催された、第70回インターネットと運用技術研究会（IOT70）で、ペパボ研究所から発表を行いましたので論文（研究会予稿）とスライドと共に紹介します。
本研究では、情報システムの運用において、あらかじめ定まった目的に従うのではなく、状況に応じて目的自体も含めて適切な判断を構成していくという視点から、意...
この記事をもっと読む
ペパボ研究所 研究員／プリンシパルエンジニアの三宅（@monochromegane）です。 2025年6月25日から3日間に渡って開催された、マルチメディア、分散、協調とモバイル（DICOMO2025）シンポジウムで、ペパボ研究所から招待講演を行いましたので発表資料と共に紹介します。
ペパボ研究所では、情報システムに関わる利用者（ユーザー、開発運用者）が、その関わりにおいて不便さや面倒さを感じない未来のシステムを「なめらかなシステム」と名付け...
この記事をもっと読む
ペパボ研究所 研究員／プリンシパルエンジニアの三宅(@monochromegane)です。 2025年3月25日に、ベクトル検索システムの社内勉強会を開催しました。 発表資料と共に内容を紹介します。
RAGを始めとする情報システムとAIの統合において、互いの知識を効率的に引き出すための、ベクトル検索システムの重要性が増しています。ベクトル検索システムは、データとクエリをベクトルで適切に表現し、類似するデータを高速に検索することが目的です。この実現においては、ベクトルの特性・表...
この記事をもっと読む
