摘要： Docker安装Ollama及使用Ollama部署大模型

关键词： Ollama、Docker、大模型

整体说明

现在大模型非常火爆，但是大模型很贵，特别是接口调用，所以对我们这些简单使用的人，可以本地部署使用，步骤如下：

k8s和docker有些不同，docker是以容器为单位，而k8s是以pod为单位进行调度。下面一个图说明问题：

从外观上看，一个pod里面可能包含一组容器，它们组成一个整体的pod。

pod的特性

更新部署服务时，旧的 Pod 会终止，新 Pod 上位。如果在这个部署过程中老 Pod 有一个很长的操作，我们想在这个操作成功完成后杀死这个 pod（优雅关闭），如果无法做到的话，被杀死的 pod 可能会丢失一定的流量，或者外界无法感知到该 Pod 被杀死。特别是，如果我们有一个接收大量流量的 API，错误率在部署过程中会显著增加。

本文主要介绍Docker安装以及加速器配置。

1 Docker版本说明

环境：SpringBoot3.4.2

docker images — 查看本地镜像

命令

docker images

前言

一、快开门式压力容器的结构

（一）主要受压元件

1.筒体：作为压力容器的主体部分，筒体用于容纳介质并承受内部压力。其形状多为圆筒形，这是因为圆筒形结构在承受内压时，受力较为均匀，相较于其他形状能更好地保证容器的强度与稳定性。筒体的材质根据所接触介质的特性、工作压力和温度等因素选择，常见的有碳钢、不锈钢等。例如，在食品加工行业的快开门式压力容器中，多选用符合食品卫生标准的不锈钢材质筒体，防止介质对筒体的腐蚀，同时避免筒体材质对食品造成污染。

最近自己在虚拟机上搭建一个docker,将项目运行在虚拟机中。

需要提前准备的工具，FinallShell(远程链接工具)，VM（虚拟机-配置网络）、CentOS7(Linux操作系统-在虚拟机上安装)

一、在CentOS7基础上安装Docker容器

1.已经安装CentOS7后，打开终端，我这里是切换到了root用户，不然每一个命令都要在前面加上【sudo】

1、拉取镜像：讲解使用docker pull命令从 Docker Hub 或其他镜像仓库拉取镜像的方法，包括指定镜像版本和标签。