ローカルLLMといえば、OllamaとかLM Studioがよくツールとして挙げられます。 どちらも普段使っているツールです。 最近、vLLMというのがあるのを知りました。 vllm.ai そこで早速使ってみようと、まずはCPU版で動かしてみることにしました。 CPU版のvLLMはCPUの世代や基本的なハードウェア性能が足を思いっきり引っ張り、正直快適ではありませんでした。 あまり古すぎるCPUが実装された環境で破壊的ではありませんし、仮に新しくても快適ではありませんでした。 具体的にどういった問題があるのかは以下の通りです。 vLLMはメモリーにモデルを読み込んでからvLLMサーバーを起動し…

例のLinux kernel 7.0になると、PostgreSQLが遅くなる件を調査してみました。 記事によると、現状のLinux 7.0系では、特定条件下のPostgreSQL性能がほぼ半減するとのこと。 xenospectrum.com www.phoronix.com 先に手元の環境のVirtualBoxでUbuntu 24.04の環境とLinux kernel 7.0を実装したUbuntu 26.04 betaの環境を作って比較してみたのですが、Linux kernel 7.0を実装したUbuntu 26.04 betaの方がどうやっても速くなると言う結果になりました。 このグラフはp…

今回の記事はKubernetesとKueue、そしてKubeflowを連携したGPUの利用に関してです、 KueueやKubeflowは感嘆にまとめるのが難しかったため、前編、中編、そして今回の後編の3つ二分割しました。 Kueueの基礎については、前編に書いているつもりです。 tech.virtualtech.jp KubernetesでGPUを使う方法とKueueのセットアップについては、中編でまとめています。 tech.virtualtech.jp 今回は、KueueとKubeflowの連携について書いています。 目的 後編ではKubeflowをKueueと組み合わせて動かすのを試してみ…

Kueueの概要については、前編にまとめています。 tech.virtualtech.jp Kubernetes GPU + Kueue セットアップ手順書（Kueue入門 + Workload Lifecycle） このドキュメントは GPUを搭載したKubernetesクラスタでGPUを利用し、Kueueを使ってジョブの順番実行（キューイング）と admission 制御を試す最小構成を説明する入門ガイドです。 Kueueは色々な環境に組み込んで利用できますが、本資料ではまず Kubernetes + GPU + Kueue の最小構成を構築し、Kueueの基本動作を理解することを目的とし…

このブログでずいぶん前に「KubernetesでGPUをつかう」と言った内容の記事を書いたことがあります。 最近の「KubernetesでGPU」って言うとどんな感じなのかなと思って公式のドキュメントを見たものの、標準の機能としては特に大きく変更は無いようでした。 KubernetesのSchedule GPUsはv1.26で、とうとうstable機能になったようですね。 最初はNVIDIA GPUだけでしたが、AMDやIntelのGPUもサポートしたので、アプリ側がそれらのGPUをサポートしていれば、KubernetesをGPUコンピューティングの基盤として使うのが可能になります。 kube…

Vim に細工されたファイルを開くだけで任意のOSコマンドが実行されるという脆弱性が報告されています（CVSS 8.2、高危険度）。 Vim のコア部分（tabpanelオプションのセキュリティフラグ欠落 + sandboxエスケープ）の欠陥です。 Vim 9.2.0272未満のバージョンが該当します。 まだ一報が出たばかりなので、この記事を書いた（2026/03/31 10時07分）時点では、この脆弱性にCVE番号は割り当てられていないようです。 その後、CVE-2026-34714が振られました。 https://securityonline.info/cve-watchtower/?cv…

導入 CodeReady Containersは以前ブログにも書いたように、ワンバイナリーで個人で使うOpenShiftの評価環境を構築できるツールです。名前がずいぶん前に変わって、OpenShift Localと言う名前で今も開発されています。 OpenShift Localを触って見ようといざ検索すると、情報を見つけるのに結構苦労します。またGoogleのアルゴリズムが変わったのでしょうか。最近特に調べたいものがなかなか出てきません。 OpenShift Localは、Red Hat Developerの製品一覧を検索すると見つかります。 developers.redhat.com Web…

macOS26.3にアップグレードした以降、このクライアントから社内にあるレガシーなLinux環境にアクセスすると、次のようなメッセージがでるようです。 % ssh zabbix-bakusoku ** WARNING: connection is not using a post-quantum key exchange algorithm. ** This session may be vulnerable to "store now, decrypt later" attacks. ** The server may need to be upgraded. See https://op…

PG-StromはNVIDIA GPUとその周辺技術、Apache Arrowを使ってPostgreSQLのクエリー処理を高速化を実現するPostgreSQLの拡張機能技術です。このブログでも何度か取り上げています。 先日ちょっと面白い挙動を示したので、こちらのブログで共有しようと思いました。 まずは準備 PG-Stromのインストールについては、公式のマニュアル に従いました。 その上で、次にようなテーブルを作ってEXPLAIN ANALYZEを実行しました。 CREATE TABLESPACE nvme LOCATION '/opt/nvme'; CREATE DATABASE testd…

インストール直後のProxmoxVEは、いわゆるオレオレ証明書が利用されています。Let's Encryptは無料で使えますし、せっかくですから正規のSSL証明書を取得しておきましょう。 Let's EncryptのチャンレジタイプにはHTTP-01とDNS-01がありますが、外部から疎通させる必要のないDNS-01はLAN内でも使え、ワイルドカード証明書を発行することもでき、非常に便利ですよね。DNSへTXTレコードを登録する必要がありますが、これもRoute53などを使えば簡単に自動化できます。というわけで、最近ではDNS-01チャレンジを採用するケースの方が多いのではないでしょうか。 D…

タイトルのとおりですが、ハズレでした。なんですって。 OVAインポートは便利 おもにUbuntuやRHELなどのLinuxのVMをデプロイするときは、インストーラーをポチポチするよりも、Cloud Imageがあればそれをデプロイしてラクをしたい派の私は、VMwareでもKVMでもProxmox（8.3以降）でも、OVAやqcow2イメージを使ってVMをデプロイしています。cloud-initの入ったISOをアタッチして起動すれば、SSH鍵とかユーザー名とかIPアドレスとかをある程度設定できるので、起動したらすぐにOSを使い始められるので便利です。 Ubuntuであればこちらから入手できます。…

以前こんな記事を書きました。 tech.virtualtech.jp 内容としてはOllamaと色々なモデルを使って実際の仕事に使ってみるみたいな話でした。 これはこれで面白かったのですが､ただあるものを使っただけだともったいないので､「特定のことを聞くと答えてくれるエージェント」を目標に、実現するにはどう実装すれば良いのか考えてみることにしました。 基本的な技術については、この本が大変参考になりました。 books.mdn.co.jp こちらではRAGを作って､RAGを用いることでモデルだけでは足りない情報を付与して応答するような動きになっていました。 うまく動いたのですが､モデル自身にはそ…

バージョン6以降のPG-Stromでもさまざまなアップデート改善が行われています。 https://heterodb.github.io/pg-strom/ja/release_v6.0/ 最近mainリポジトリーに入った､個人的に大きな修正と思ったのが､Apache Arrowの実装が独自のものからアップストリームの実装に切り替わったということです。 現在もArrow周りのアップデートが開発され続けています。 PG-StromにとってApache Arrowは大規模なデーターから必要なデーターだけを抜き出したり､データーの入出力を効率化するために必要な重要なコンポーネントです。 これまでは事…

ちょっとアプリケーションだなんだを仮想マシンベースで動かしたい場合のために、Linux KVM環境を動かしています。 このLinux KVMはDebianベースで長いこと動かしていたのですが、サーバーをHP G7世代のサーバーから新しいものに切り替えた際に、Ubuntu Serverベースに切り替えることになりました。 UbuntuはDebianベースであるのもあって､Linux KVM環境の移行はそこまで難しくはありませんでした。 移行から数ヶ月経ったある日と言うか昨日､大問題が発生しました。 いつものようにサーバーメンテナンスでソフトウェアアップデートと再起動を実施しました。 Linux …

はじめに AIエージェント、今流行っていますよね。 私もChatGPTにCopilot、Claude、Google Geminiなど日々仕事に、プライベートに便利に使っています。 これらは非常に便利ですし、ものすごいスピードで進化し続けています。 しかし、チャットなどでやりとりした会話の内容やアップロードしたファイルはサービスを提供している企業に送信されます。 ファイルや会話データの取り扱いについては利用規約で定められていますが、実際どのように取り扱われるかはその企業を信じるしかありません。 AWSのようなクラウド環境を手元の環境で動かしたいというアイデアからOpenStackができたように、…

ネットなどを調べると、「新しいファイルを作成するには次のように実行してください」と書かれているものが見つかります。 touch hoge.txt 実行してみると、確かにカレントディレクトリーに指定した名前のファイルが作られています。 しかし、touchのマニュアルをman touchで開くと、そこには「touch – change file access and modification times (ファイルのタイムスタンプを変更する)」と書かれています。 なぜファイルが作られるのでしょうか。 マニュアルの冒頭にその理由が書かれています。 「touchユーティリティは、ファイルの変更とアクセ…

当社が運営する技術ブログ『仮想化通信』が、レバレジーズ株式会社が展開するエンジニア向け情報メディア「フリーランスHub」に掲載されました。 フリーランスHubは、エンジニア・クリエイターに特化した全国のフリーランス案件をまとめて紹介する転職・求人メディアです。2021年にスタートして以来、案件情報に加えて、キャリアや技術に関する読みものなど、多彩なコンテンツを発信しています。 掲載記事では、『仮想化通信』が仮想化技術やLinuxサーバーといったテーマを中心に、具体的な操作手順やトラブルシューティング、バージョンアップ情報など、現場で役立つ情報を発信している点をご紹介いただきました。特にMAAS…

ゴールデンウィーク明けなので定時アップデートをしていまして、MAAS (Metal-As-A-Service) も作業対象でした。 いつものようにアップデートして（なんか復帰するのが遅いなあ）とは思いつつもしばらく待っていたのですが、ユーザーインターフェイスを開くと再接続→タイムアウトを繰り返していてMAAS Dashboardにアクセスできない状態が続いていました。 MAAS 3.5.5にアップデートしたらこんなメッセージが出続ける問題が ダウングレードするにもこの環境はdebパッケージ版のMAASを導入しているので、ダウングレードは一筋縄ではいきません。いい加減MAASのsnapパッケージ…

とあるUbuntuインスタンスのソフトウェアメンテナンスをしたんですよ。 $ sudo apt-get -u upgrade そのあとDockerで動いているサービスがちゃんと動いているか確認するために、コマンドを実行したらこんなエラーが表示されました。 $ docker-compose ps ERROR: client version 1.22 is too old. Minimum supported API version is 1.24, please upgrade your client to a newer version Ubuntuにはdocker.ioというパッケージとdo…

通常の使い方ではMTUを設定する必要はありません。ただ、仮想マシンの中でDockerを動かさなければならないとか、そういう時にMTUを変更しないといけない場合があります。 例えばこれはOpenStackインスタンスの中でpingを実行しているところです。コンピュートエンジンとしてはLinux KVM、ネットワークはOVNを使っています。Linuxは特に設定を変更しない限りMTU 1500がデフォルトです。 $ ping -M do -s 1500 -c 4 google.com PING google.com (142.251.222.46) 1500(1528) bytes of data.…

定期メンテナンスのために各環境のアップデートをしていると、次の次の警告が表示されました。 Warning: os-prober will not be executed to detect other bootable partitions. Systems on them will not be added to the GRUB boot configuration. Check GRUB_DISABLE_OS_PROBER documentation entry. done Removing linux-modules-5.15.0-116-generic (5.15.0-116.126…

最近の弊社では、久々に検証機材の近代化を行っている最中です（それでも安〜い中古ですが……）。そうすると、サーバーラックからは古い機材が押し出されて、素直に廃棄をしたり、お知り合いで古くても欲しいという方がいればお譲りしたりしています。 今回押し出された機材は、Dell R620やHPE DL360p Gen8といった、Xeon E5-2600 V1/V2世代です。CentOS Stream 10では残念ながらサポートが打ち切られてしまいますが、おそらく数年くらいなら、まだちょっとくらいは遊べそうです。今回もお知り合いからの引き合いはあるとのことだったので、お譲りできるように機材の調整と、iDR…

新しいサーバーにOSをインストールする必要がありました。最近は社内サーバーをMAASで管理しているので、基本的にはMAASでデプロイします。しかしMAASで使っているネットワーク以外を利用したい場合、管理下から切り離して後は何らかの方法でOSのデプロイなどを実行することになります。 コロナ禍以前はオフィスに出社していたので、サーバールームに行ってDVDメディアかUSBブートでインストーラーを起動してOSセットアップという芸当ができましたが、引っ越ししたのもあって在宅ワーク中心になった現在はその方法は取れません。 大抵のサーバーにはリモートコンソールがあって、何らかの方法でイメージをマウントして…

先週、ビルの保守点検のための停電があって、いくつかのインフラがその影響を受けたのですが、個人的な雑多な検証のために使っていたLinux KVMサーバーのホストOSも起動しなくなってしまいました。 そこで、社内で使っているLinux KVMサーバーを更新することにしました。 古いサーバーの方はお願いしてUbuntuをライブブートしてストレージをマウントしてもらって、そこからqemuファイルと/etc/libvirt/qemuのあたりにあるxmlファイルを新しいサーバーにコピーし、Linuxブリッジも作成して さあ起動だと思ったら、ほとんどのVMはそれだけで済んだものの、一つのVMだけ起動せずにエ…

MAAS 3.5がリリースされました。MAAS 3.5ではpacker-maasでイメージを作って動かすことができるディストリビューションのいくつかを正式にサポートしたのもあって、リリースされたら早速試そうと思っていました。 MAAS | Reference: Release notes MAAS 3.5 リリースノートによると、イメージの保管方法が変わった（データベースからリージョンコントローラーのパスへ）こと、 その変更によるイメージの同期が高速化されたこと、Soft Power Offのサポート、Oracle LinuxのサポートがStableになったこと、Ephemeral OS de…

一つ前の記事でProxmoxの話題を取り上げました。 tech.virtualtech.jp 社内でProxmoxはLXCコンテナーが使えて超便利という話を伺ったので、早速試してみました。 Proxmoxでは作成したLXCイメージをアップロードして利用するほか、「テンプレート」というものが用意されていて、全くゼロの状態からProxmoxでコンテナを使えるようになります。 テンプレートは色々なLinuxディストリビューションが用意されています。 仮想マシンと比べて気軽に作って使えるのでアプリケーションの動作確認とか、一時的にLinux環境を使いたい時とかに便利ですね。 ちなみにアクセスについては…

VMware vSphere代替探索ということで、前回はXenServerを触ってみました。 tech.virtualtech.jp 今回はProxmoxを触ってみます。 Proxmoxの概要 ProxmoxはDebianベースのLinux KVMベースの仮想化プラットフォームソフトウェアです。 GUIを使った仮想マシン管理ができる点は、ESXiをWebクライアントで操作している感じに似ています。 特別なソフトウェアをインストールすることなく、ブラウザーだけで仮想マシン環境の管理ができる点が優れています。 有償ライセンス版もありますが、無料でも利用制限なく利用できます。 インストーラーは専用の…

相次ぐ値上げラッシュ ニュースを見れば、頻繁に何かが値上げする話題が取り上げられています。 原材料の高騰がきっかけとして色々なものが値上げ値上げのオンパレードです。 その上円の価値も落ちているため、ドル換算だと値上げをしていないようなものも、今買うと割高な印象を受けます。 例えばスマホとかタブレットとか.. （あえてこう言いますが）VMwareの値上げラッシュも大変ですよね。つい最近もこんなニュースが飛びこんできましたし。 https://xtech.nikkei.com/atcl/nxt/column/18/02864/061200003/ VMwareのライセンス価格の高騰をきっかけとした…

先に結果 MAAS 3.3.6で、Ubuntu 24.04 LTSのデプロイが問題なくできるようになったのを確認しました。 Ubuntu 24.04LTSがリリースされた当初はまだデプロイできませんでした。これでようやくMAASでもUbutu 24.04ベースの検証ができます。 使い方 MAASのイメージ管理画面に遷移して、Ubuntu releasesとして「Ubuntu 24.04 LTS」を選択、Architectures for 22.04 LTSとして「amd64」を選択します。 あとはデプロイしたノードを選んでデプロイするだけです。 次のように、Ubuntu 24.04 LTSをデ…

MAASにはLinux KVM hostをデプロイしてMAASの管理下に加える機能があります。このブログでも何度か取り上げています。 具体的に何をするかというと、MAASの画面からLinux KVM環境をセットアップして、そのLinux KVMホストで仮想マシンを作成し、その作った可能マシンにMAASでOSをセットアップしたり、固定のIPアドレスを払い出したりみたいなことができます。MAASを使えばOSのセットアップからLinux KVMの環境までを自動化できます。 デプロイしたLinux KVM環境はMAASによってリソース監視されます。作った仮想マシンは環境がいらなくなったらリリースできま…