VPS上に Ollama + 軽量ローカルLLMを構築した手順
GPUなしのVPS上に、Ollama と軽量なローカルLLMを構築した記録です。今回は「中国製モデルは避けたい」「日本語に強いものがよい」という条件で、ELYZA 系の日本語モデルを採用しました。 6 vCPU / 11 GiB RAM / GPUなし のVPSでも、短文用途なら十分実用になります。 一
Category
開発 に関する記事一覧です。
GPUなしのVPS上に、Ollama と軽量なローカルLLMを構築した記録です。今回は「中国製モデルは避けたい」「日本語に強いものがよい」という条件で、ELYZA 系の日本語モデルを採用しました。 6 vCPU / 11 GiB RAM / GPUなし のVPSでも、短文用途なら十分実用になります。 一
この記事では、VPS を契約した直後に最低限やっておきたい ssh のポート変更と、ufw を使ったファイアウォール設定について備忘録として記載します。 サーバーをインターネットに公開すると、SSH への不正アクセス試行やブルートフォース攻撃は普通に飛んできます。 22 番のまま運用していると、とにかく雑なアクセス試行
「今一番性能がいい LLM って何?」 「コーディングならどれ使えばいい?」 「結局ChatGPTでいいの?」 こういう質問、最近やたらと聞かれるんですよね。 でも正直に言うと、 この質問に明確な答えを出すのはもう無理ゲー だと思っています。 理由は単純で、状況が変わりすぎるから。 1週間前の「最強」が今日も最強とは限
「ログイン時にメールで認証コードが届くから、うちのサービスは二要素認証に対応してます」 こんな説明を見たことはありませんか? 実は、これは厳密には正しくありません。 メールを使った認証は「二段階認証」ではありますが、「二要素認証」ではないのです。 今回は、混同されがちなこの2つの用語の違いと、なぜメール認証が二要素認証
Linuxサーバーで管理者権限が必要な作業をする際、sudoとsuという2種類のコマンドと時々遭遇しますよね。 この記事では、両者の違いと使い分けを簡単に解説します。 詳細まで知りたかったら、ChatGPT is your friend. です。 基本的な違い sudo : 特定のコマンドだけを管理者権限で実行 su
この記事では、Node.js を使った開発で頻繁に目にする npm と npx の違いについて解説します。 どちらも Node.js のパッケージ管理に関連するコマンドですが、用途や動作が異なります。正しく使い分けることで、より効率的な開発が可能になります。 目次 npm とは npx とは npm と npx の主な
この記事では Ubuntu で fail2ban を設定する手順を備忘録として記載します。 サーバーを運用していると、SSH への不正アクセス試行やブルートフォース攻撃が頻繁に発生します。 個人でも VPS を使用するときはかなり気にしないといけないです。 fail2ban は、ログファイルを監視して不審なアクセスパタ
この記事では、iframe で生じる Blocked opening XXXXX in a new window because the request was made in a sandboxed frame whose 'allow popups' permission is not set. エラーの解消方法に
この記事では WordPress のユーザAPIのエンドポイントを閉じておくべきというセキュリティ関連の備忘録を記載します。 概要 WordPress は何もしないでいると、APIにアクセスできてしまいます。 自身のサイトを WordPress で構築している場合、API アクセスはデフォルトで有効化されているという罠
Sponsored