一篇文章解决MongoDB的所有问题
官方文档
https://www.mongodb.com/docs/manual/tutorial/query-embedded-documents/#query-on-embedded-nested-documents
一、MongoDB相关概念
1.1 业务应用场景
传统的关系型数据库(如MySQL)。在数作的"三高"需求以及应对Web.0的网站需求面前,显得力不从心。
解释:三高“需求:
·High performance-高并发
·Huge Storage-海量数据
·High Scalability&&High Availability-高扩展性和高可用性的需求
1.1.1 而MongoDB可应对“三高"需求·
具体的应用场景:
1)社交场景,使MongoDB存存用户信息,以及用户发表的朋友圈信息,通过地理位置索引实现跗近的人、地点等功能。
2〕游戏场景,使用MongoDB存储游戏用户信息,用户的装备、积分等直接以内嵌文档的形式存储,方便查询、高效率存储和访问。
3〕物流场景。使用MongoDB存储订单信息,订单状态在运送过程中会不断更新,以MongoDB内嵌数组的形式来存储,一次查询就能将订单所有的变更读取出来。
4〕物联网场景,使用MongoDB存储所有接入的智能设备信息,以及设备汇报的日志信息,对这些信息讲行多维度的分析·
5)视频直播,使用MongoDB存用户信息、点赞互动信息等。
使用MongoDB共同特点:
1.数据量大
2.写入操作频繁
3.价值较低的数据,对事务性要求不高
1.1.2 什么时候选择MongoDB?
在架构选型上,除了上述的三个特点外,如果你还犹是否要选择它?可以考虑以下的一些问题:
应用不需要事务及复杂join支持
新应用,需求会变,数据模型无法确定。想快速迭代开发
应需要2000-3000以上的读写QPS(更高也可以)
应用需要TB至PB级别数存储
应甲发展迅速,需要能快速水平扩展
应甲要求存的数庭不丢失
应需要的99%高可用
应用需要大量的地理位置查询、文本查询
如果上述有1个符合,可以考虑MongoDB,2个及以上符合,选怿MongoDB绝不会后悔.
1.1.3 如果用mysql?
相对于mysql,MongoDB可以耕地的成本解决问题(包括学习,开发,运维等成本)
1.1.4MongoDB的特点
1.高性能:索引支持更快的查询,减少了数据库系统上的IO活动
2.高可用性:复制工具成为副本集,它可提供自动故障转移和数据冗余
3.高扩展性:水平扩展性
4.丰富的查询支持:支持读写,数据聚合,文本搜索和地理空间查询
5.其他特点:如无模式(动态模式)、灵活的文档模型
二、MongoDB简介
MongoDB是一个开源、高性能、无模式的文档型数据库。当初的设计就是用于简化开发和方便扩展,是nosql(非关系性)数据库产品中的一种。是最像关系型数据库(MySQL)的非关系型数据库。
它支持的数结构非常松散,是一种类似于JSON的格式叫BSON,所以它既可以存储比较复杂的数庭类型,又相当的灵活.
MongoDB中的记录是一个文档,它是一个由字段和值对(field:value)组成的数据结构。MongoDB文档类似于JSON对象,即一个文档认为就是一个对象。字段的数据类型是字符型,它的值除了便用基本的一些类型外,还可以包括其他文档、普通数组和文档数组
三、体系结构
Mysql和MongoDB对比
3.1 数据模型
MongoDB的小存储单位就是文档(document)对象。文档(document)对象对应于关系型数据库的行。数据在MongoDB中以 BSON(Binary-JSON)文档的格式存储在磁盘上。
BSON(Binary Serialized Document Format)是一种类json的一种二进制形式的存储格式,简称Binary JSON。BSON和JSON一样,支持 内嵌的文档对象和数组对象,但是BSON有JSON没有的一些数据类型,如Date和BinData类型。 BSON采用了类似于 C 语言结构体的名称、对表示方法,支持内嵌的文档对象和数组对象,具有轻量性、可遍历性、高效性的三个特点,可 以有效描述非结构化数据和结构化数据。这种格式的优点是灵活性高,但它的缺点是空间利用率不是很理想。
Bson中,除了基本的JSON类型:string,integer,boolean,double,null,array和object,mongo还使用了特殊的数据类型。这些类型包括 date,object id,binary data,regular expression 和code。每一个驱动都以特定语言的方式实现了这些类型,查看你的驱动的文档来获取详 细信息。
BSON数据类型参考列表:
数据类型 | 描述 | 举例 |
---|---|---|
字符串 | UTF-8字符串都可表示为字符串类型的数据 | |
对象id | 对象id是文档的12字节的唯一 ID | |
布尔值 | 真或者假:true或者false | {"x":true}+ |
数组 | 值的集合或者列表可以表示成数组 | |
32位整数 | 类型不可用。JavaScript仅支持64位浮点数,所以32位整数会被 自动转换。 | shell是不支持该类型的,shell中默认会转换成64 位浮点数 |
64位整数 | 不支持这个类型。shell会使用一个特殊的内嵌文档来显示64位 整数 | shell是不支持该类型的,shell中默认会转换成64 位浮点数 |
64位浮点数 | shell中的数字就是这一种类型 | |
null | 表示空值或者未定义的对象 | |
undefined | 文档中也可以使用未定义类型 | |
符号 | shell不支持,shell会将数据库中的符号类型的数据自动转换成字符串 | |
正则表达式 | 文档中可以包含正则表达式,采用JavaScript的正则表达式语法 | |
代码 | 文档中还可以包含JavaScript代码 | {"x" : function() { /* …… */ }} |
二进制数据 | 二进制数据可以由任意字节的串组成,不过shell中无法使用 | |
大值/ 小值 | BSON包括一个特殊类型,表示可能的大值。shell中没有这个 类型。 |
四、官网下载
https://www.mongodb.com/download-center/community
据上图所示下zip包。
提示:版朩的选择:
MongoDB的版本命名规范如:x.y.z
y为奇数时表示当前版朩为开发版:1.5.2、4.1.13
y为偶数时表示当前版朩为稳定版,如:1.6.3、4.0.10
z是修正板本号,数字越大越好。
五、启动方式
5.1 命令启动
第一步:在bin的同级目录新建data目录,在data目录中新建db子目录。作为存放数据库文件的位置
第二步:cmd进入bin目录中,敲:mongod --dbpath=..\data\db 出现以下图代表成功
5.2 制作系统服务
前提准备:
(1):log\mongod.log建立存日志的文件
(2):E:\mongodb\data\db 建立存数据的文件夹
(3):把bin目录配置为环境变量,敲mongo命令登录连接
将启动命令,制作为系统服务(开机自启):
mongod --bind_ip 0.0.0.0 --port 27017 --logpath E:\mongodb\log\mongod.log --logappend --dbpath E:\mongodb\data\db --serviceName "MongoDB" --serviceDisplayName "MongoDB" --install
5.3 配置文件启动
第一步:在bin的同级目录新建conf目录,在data目录中新建mongod.cfg文件
第二步:在mongod.conf中写:dbPath是上面新建存放数据库文件的位置
storage:
dbPath: E:\mongodb\data\db
第三步:启动方式(cmd当前在bin目录下)
mongod -f ..\conf\mongod.cfg
或
mongod --config "E:\mongodb\conf\mongod.cfg"
详细配置项内容可以参考官方文档:https://docs.mongodb.com/manual/reference/configuration-options/
【注意】
1)配置文件中如果使用双引号,比如路径地址,自动会将双引号的内容转义。如果不转义,则会报错:
error-parsing-yaml-config-file-yaml-cpp-error-at-line-3-column-15-unknown-escape-character-d
解决:
a. 对 \ 换成 / 或 \
b. 如果路径中没有空格,则无需加引号。 2)配置文件中不能以Tab分割字段
mongod --dbpath=..\data\db
storage: #The directory where the mongod instance stores its data.Default Value is "\data\db" on Windows. dbPath: D:\02_Server\DBServer\mongodb-win32-x86_64-2008plus-ssl-4.0.1\data
error-parsing-yaml-config-file-yaml-cpp-error-at-line-3-column-15-unknown-escape-character-d
解决:
将其转换成空格。
更多参数配置:
systemLog:
destination: file
#The path of the log file to which mongod or mongos should send all diagnostic logging information
path: "D:/02_Server/DBServer/mongodb-win32-x86_64-2008plus-ssl-4.0.1/log/mongod.log" logAppend: true storage:
journal:
enabled: true #The directory where the mongod instance stores its data.Default Value is "/data/db".
dbPath: "D:/02_Server/DBServer/mongodb-win32-x86_64-2008plus-ssl-4.0.1/data" net:
#bindIp: 127.0.0.1
port: 27017
setParameter:
enableLocalhostAuthBypass: false
5.4 Linux系统中的安装启动和连接
步骤如下:
(1)先到官网下载压缩包 mongod-linux-x86_64-4.0.10.tgz 。
(2)上传压缩包到Linux中,解压到当前目录:
tar -xvf mongodb-linux-x86_64-4.0.10.tgz
(3)移动解压后的文件夹到指定的目录中:
mv mongodb-linux-x86_64-4.0.10 /usr/local/mongodb
(4)新建几个目录,分别用来存储数据和日志:
#数据存储目录
mkdir -p /mongodb/single/data/db
#日志存储目录
mkdir -p /mongodb/single/log
(5)新建并修改配置文件
vi /mongodb/single/mongod.conf
配置文件的内容如下:
systemLog:
#MongoDB发送所有日志输出的目标指定为文件
# #The path of the log file to which mongod or mongos should send all diagnostic logging information
destination: file
#mongod或mongos应向其发送所有诊断日志记录信息的日志文件的路径
path: "/mongodb/single/log/mongod.log"
#当mongos或mongod实例重新启动时,mongos或mongod会将新条目附加到现有日志文件的末尾。
logAppend: true
storage:
#mongod实例存储其数据的目录。storage.dbPath设置仅适用于mongod。
##The directory where the mongod instance stores its data.Default Value is "/data/db". dbPath: "/mongodb/single/data/db"
journal:
#启用或禁用持久性日志以确保数据文件保持有效和可恢复。
enabled: true
processManagement:
#启用在后台运行mongos或mongod进程的守护进程模式。
fork: true
net:
#服务实例绑定的IP,默认是localhost
bindIp: localhost,192.168.0.2
#bindIp
#绑定的端口,默认是27017
port: 27017
(6)启动MongoDB服务
[root@bobohost single]# /usr/local/mongodb/bin/mongod -f /mongodb/single/mongod.conf
about to fork child process, waiting until server is ready for connections.
forked process: 90384
child process started successfully, parent exiting
注意:
如果启动后不是 successfully ,则是启动失败了。原因基本上就是配置文件有问题。
通过进程来查看服务是否启动了:
[root@bobohost single]# ps -ef |grep mongod
root 90384 1 0 8月26 ? 00:02:13 /usr/local/mongdb/bin/mongod -f /mongodb/single/mongod.conf
(7)分别使用mongo命令和compass工具来连接测试
提示:如果远程连接不上,需要配置防火墙放行,或直接关闭linux防火墙
#查看防火墙状态
systemctl status firewalld
#临时关闭防火墙 systemctl stop firewalld
#开机禁止启动防火墙
systemctl disable firewalld
(8)停止关闭服务
停止服务的方式有两种:快速关闭和标准关闭,下面依次说明:
(一)快速关闭方法(快速,简单,数据可能会出错)
目标:通过系统的kill命令直接杀死进程:
杀完要检查一下,避免有的没有杀掉
#通过进程编号关闭节点
kill -2 54410
【补充】
如果一旦是因为数据损坏,则需要进行如下操作(了解):
1)删除lock文件:
rm -f /mongodb/single/data/db/*.lock
2)修复数据:
/usr/local/mongdb/bin/mongod --repair --dbpath=/mongodb/single/data/db
(二)标准的关闭方法(数据不容易出错,但麻烦):
目标:通过mongo客户端中的shutdownServer命令来关闭服务
主要的操作步骤参考如下:
//客户端登录服务,注意,这里通过localhost登录,如果需要远程登录,必须先登录认证才行。
mongo --port 27017
//#切换到admin库
use admin
//关闭服务
db.shutdownServer()
六、Xshell链接(Mongo命令)
1.本地连接:在bin目录中敲mongo。(或者把bin目录做成环境变量)
2.或者 mongo --host=127.0.0.1 --port=27017
七、Compass-图形化界面客户
到MongoDB官网下载MongoDB Compass,
地址:https://www.mongodb.com/download-center/v2/compass?initial=true
如果是下载安装版,则按照步骤安装;如果是下载加压缩版,直接解压,执行里面的 MongoDBCompassCommunity.exe 文件即可。
八、常用基础命令
8.1 案例需求
存放文章评论的数据存放到MongoDB中,数据结构参考如下:
数据库:articledb
专栏文章评论 | comment | ||
---|---|---|---|
字段名称 | 字段含义 | 字段类型 | 备注 |
_id | ID | Objectld或String | Mongo的主键字段 |
articleid | 文章ID | String | |
content | 评论的容 | String | |
userid | 评论ID | String | |
nickname | 评论人昵称 | String | |
createdatetime | 评论的日期时间 | Date | |
likenum | 点赞数 | int32 | |
replynum | 回复数 | int32 | |
state | 状态 | String | 0:不可见;1:可见 |
parentid | 上级ID | String | 如果为0表示文章的顶级评论 |
8.2 数据库操作
8.2.1 选择和创建数据库
选择和创建数据库的语法格式
use 数据库名称
如果如据库不存在则自动创建,例如:
use test # 没有就创建,有就切换
查看有权限查看的所有的数据库命令
show dbs
或
show databases
注意:在MongoDB中,集台只有在内容插入后才会创建!就是说,创建集合(数据表)后,必须要再插入一个文档(记录),集合才会真正的创建
8.2.2 查看当前正在使用的数据库命令
db
MongoDB中默认的数据库为test,如果你没有选择数据库,集合将存放再test数据库中
8.2.3 默认自带的三个库作用
admin: 从权限的角度来看,这是"root"数据库。要是将一个用户添加到这个数据库,这个用户自动继承所有数据库的权限。一些特 定的服务器端命令也只能从这个数据库运行,比如列出所有的数据库或者关闭服务器。
local: 这个数据永远不会被复制,可以用来存储限于本地单台服务器的任意集合
config: 当Mongo用于分片设置时,config数据库在内部使用,用于保存分片的相关信息
8.2.4 数据库的删除
MongoDB 删除数据库的语法格式如下:
db.dropDatabase() # 删除当前所在的库
8.3 集合操作
集合,类似关系型数据库中的表。
可以显示的创建,也可以隐式的创建。
8.3.1 集合的命名规范:
1.集合名不能是空字符串""。
2.集合名不能含有\0字符(空字符),这个字符表示集合名的结尾。
3.集合名不能以"system."开头,这是为系统集合保留的前缀。
4.用户创建的集合名字不能含有保留字符。有些驱动程序的确支持在集合名里面包含,这是因为某些系统生成的集合中包含该字符。除 非你要访问这种系统创建的集合,否则千万不要在名字里出现$。
8.3.2 集合的显示创建(了解)
基本语法格式:
db.createCollection(name) # name: 要创建的集合名称
eg:创建集合index
db.createCollection("index")
查看当前库中的表:show tables命令
show collections
或
show tables
8.3.3 集合的隐士创建
当向一个集合中插入一个文档的时候,如果集合不存在,则会自动创建集合
提示:通常我们使用隐式创建文档即可。
8.3.4 集合的删除
集合删除语法格式如下:
db.collection.drop()
或
db.集合名.drop()
返回值
如果成功删除选定集合,则 drop() 方法返回 true,否则返回 false
8.4 文档的基本操作
文档(document)的数据结构和 JSON 基本一样。
所有存储在集合中的数据都是 BSON 格式
8.4.1 文档键命名规范
1)键不能含有\0 (空字符)。这个字符用来表示键的结尾。
2)"."点和$有特别的意义,只有在特定环境下才能使用。
3)以下划线"_"开头的键是保留的(不是严格要求的)。
8.4.2 文档的插入
(1)单个文档插入
使用insert() 或 save() 方法向集合中插入文档,语法如下:insert
db.collection.insert(
<document or array of documents>,
{
writeConcern: <document>,
ordered: <boolean>
}
)
#解释:
collection:代表集合名称,如果没有集合就会隐士创建
参数:
Parameter | Type | Description |
---|---|---|
document | document or array | 要插入到集合中的文档或文档数组。(json格式) |
writeConcern | document | Optional. A document expressing the write concern. Omit to use the default write concern. See Write Concern.Do not explicitly set the write concern for the operation if run in a transaction. To use write concern with transactions, see Transactions and Write Concern. |
ordered | boolean | 可选。如果为真,则按顺序插入数组中的文档,如果其中一个文档出现错误,MongoDB将返回而 不处理数组中的其余文档。如果为假,则执行无序插入,如果其中一个文档出现错误,则继续处理 数组中的主文档。在版本2.6+中默认为true |
演示:
要向comment的集合(表)中插入一条测试数据:
db.comment.insert(
{"articleid":"100000","content":"今天天气真好,阳光明媚","userid":"1001","nickname":"Rose","createdatetime":new Date(),"likenum":NumberInt(10),"state":null}
)
提示:
1)comment集合如果不存在,则会隐式创建
2)mongo中的数字,默认情况下是double类型,如果要存整型,必须使用函数NumberInt(整型数字),否则取出来就有问题了。
3)插入当前日期使用 new Date()
4)插入的数据没有指定 _id ,会自动生成主键值
5)如果某字段没值,可以赋值为null,或不写该字段。
执行后,如下,说明插入一个数据成功了。
WriteResult({ "nInserted" : 1 })
(2)批量插入
语法:insertMany
db.collection.insertMany(
[ <document 1> , <document 2>, ... ],
{
writeConcern: <document>,
ordered: <boolean>
}
)
参数:
Parameter | Type | Description |
---|---|---|
document | document or array | 要插入到集合中的文档或文档数组。(json格式) |
writeConcern | document | Optional. A document expressing the write concern. Omit to use the default write concern. See Write Concern.Do not explicitly set the write concern for the operation if run in a transaction. To use write concern with transactions, see Transactions and Write Concern. |
ordered | boolean | 可选。一个布尔值,指定Mongod实例应执行有序插入还是无序插入。默认为true。 |
演示:
批量插入多条文章评论:
db.comment.insertMany([
{"_id":"1","articleid":"100001","content":"我们不应该把清晨浪费在手机上,健康很重要,一杯温水幸福你我 他。","userid":"1002","nickname":"相忘于江湖","createdatetime":new Date("2019-0805T22:08:15.522Z"),"likenum":NumberInt(1000),"state":"1"},
{"_id":"2","articleid":"100001","content":"我夏天空腹喝凉开水,冬天喝温开水","userid":"1005","nickname":"伊人憔 悴","createdatetime":new Date("2019-08-05T23:58:51.485Z"),"likenum":NumberInt(888),"state":"1"},
{"_id":"3","articleid":"100001","content":"我一直喝凉开水,冬天夏天都喝。","userid":"1004","nickname":"杰克船 长","createdatetime":new Date("2019-08-06T01:05:06.321Z"),"likenum":NumberInt(666),"state":"1"},
{"_id":"4","articleid":"100001","content":"专家说不能空腹吃饭,影响健康。","userid":"1003","nickname":"凯 撒","createdatetime":new Date("2019-08-06T08:18:35.288Z"),"likenum":NumberInt(2000),"state":"1"},
{"_id":"5","articleid":"100001","content":"研究表明,刚烧开的水千万不能喝,因为烫 嘴。","userid":"1003","nickname":"凯撒","createdatetime":new Date("2019-0806T11:01:02.521Z"),"likenum":NumberInt(3000),"state":"1"}
]);
提示:
插入时指定了 _id ,则主键就是该值。
如果某条数据插入失败,将会终止插入,但已经插入成功的数据不会回滚掉。
因为批量插入由于数据较多容易出现失败,因此,可以使用try catch进行异常捕捉处理,测试的时候可以不处理。如以下(了解):
try {
db.comment.insertMany([
{"_id":"1","articleid":"100001","content":"我们不应该把清晨浪费在手机上,健康很重要,一杯温水幸福你我 他。","userid":"1002","nickname":"相忘于江湖","createdatetime":new Date("2019-0805T22:08:15.522Z"),"likenum":NumberInt(1000),"state":"1"},
{"_id":"2","articleid":"100001","content":"我夏天空腹喝凉开水,冬天喝温开水","userid":"1005","nickname":"伊人憔 悴","createdatetime":new Date("2019-08-05T23:58:51.485Z"),"likenum":NumberInt(888),"state":"1"},
{"_id":"3","articleid":"100001","content":"我一直喝凉开水,冬天夏天都喝。","userid":"1004","nickname":"杰克船 长","createdatetime":new Date("2019-08-06T01:05:06.321Z"),"likenum":NumberInt(666),"state":"1"},
{"_id":"4","articleid":"100001","content":"专家说不能空腹吃饭,影响健康。","userid":"1003","nickname":"凯 撒","createdatetime":new Date("2019-08-06T08:18:35.288Z"),"likenum":NumberInt(2000),"state":"1"},
{"_id":"5","articleid":"100001","content":"研究表明,刚烧开的水千万不能喝,因为烫 嘴。","userid":"1003","nickname":"凯撒","createdatetime":new Date("2019-0806T11:01:02.521Z"),"likenum":NumberInt(3000),"state":"1"}
]);
} catch (e) {
print (e);
}
8.4.3 文档的基本查询
查询数据的语法格式如下:
db.collection.find(<query>, [projection])
参数:
Parameter | Type | Description |
---|---|---|
query | document | 可选。使用查询运算符指定选择筛选器。若要返回集合中的所有文档,请省略此参数或传递空文档 ( {} )。 |
projection | document | 可选。指定要在与查询筛选器匹配的文档中返回的字段(投影)。若要返回匹配文档中的所有字段, 请省略此参数。 |
演示:
(1)查询所有
db.comment.find()
或
db.comment.find({})
这里你会发现每条文档会有一个叫_id的字段,这个相当于我们原来关系数据库中表的主键,当你在插入文档记录时没有指定该字段, MongoDB会自动创建,其类型是ObjectID类型。 如果我们在插入文档记录时指定该字段也可以,其类型可以是ObjectID类型,也可以是MongoDB支持的任意类型。
(2)条件查询
比如我想查询userid为1003的记录
db.comment.find({userid:'1003'})
如果你只需要返回符合条件的第一条数据,我们可以使用findOne命令来实现,语法和find一样
如:查询用户编号是1003的记录,但只多返回符合条件的第一条记录:
db.comment.findOne({userid:'1003'})
(3)投影查询
如果要查询结果返回部分字段,则需要使用投影查询(不显示所有字段,只显示指定的字段)。
1:显示
0:不显示
如:查询结果只显示 _id、userid、nickname :
db.comment.find({userid:"1003"},{userid:1,nickname:1})
{ "_id" : "4", "userid" : "1003", "nickname" : "凯撒" }
{ "_id" : "5", "userid" : "1003", "nickname" : "凯撒" }
默认 _id 会显示。
如:查询结果只显示 、userid、nickname ,不显示 _id :
db.comment.find({userid:"1003"},{userid:1,nickname:1,_id:0})
{ "userid" : "1003", "nickname" : "凯撒" }
{ "userid" : "1003", "nickname" : "凯撒" }
再例如:查询所有数据,但只显示 _id、userid、nickname :
db.comment.find({},{userid:1,nickname:1,content:1})
8.4.4 文档的更新
更新文档的语法:
db.collection.update(query, update, options)
//或
db.collection.update(
<query>,
<update>,
{
upsert: <boolean>,
multi: <boolean>,
writeConcern: <document>,
collation: <document>,
arrayFilters: [ <filterdocument1>, ... ],
hint: <document|string> // Available starting in MongoDB 4.2
}
)
(1)覆盖修改
如果我们想修改_id为1的记录,点赞量为1001,输入以下语句:
db.comment.update({_id:"1"},{likenum:NumberInt(1001)})
执行后,我们会发现,这条文档除了likenum字段其它字段都不见
(2)局部修改
$set:
为了解决这个问题,我们需要使用修改器$set来实现,命令如下:
我们想修改_id为2的记录,浏览量为889,输入以下语句:
db.comment.update({_id:"2"},{$set:{likenum:NumberInt(889)}})
(3)批量修改
{multi:true}
更新所有用户为 1003 的用户的昵称为 凯撒大帝
//默认只修改第一条数据
db.comment.update({userid:"1003"},{$set:{nickname:"凯撒2"}})
//修改所有符合条件的数据
db.comment.update({userid:"1003"},{$set:{nickname:"凯撒大帝"}},{multi:true})
提示:如果不加后面的参数,则只更新符合条件的第一条记录
(4)列值增长的修改
如果我们想实现对某列值在原有值的基础上进行增加或减少,可以使用 $inc 运算符来实现。
需求:对3号数据的点赞数,每次递增1
db.comment.update({_id:"3"},{$inc:{likenum:NumberInt(1)}})
8.4.5 删除文档
删除文档的语法结构:
db.集合名称.remove(条件)
以下语句可以将数据全部删除,请慎用
db.comment.remove({})
如果删除_id=1的记录,输入以下语句
db.comment.remove({_id:"1"})
8.5 文档的分页查询
8.5.1 统计查询
统计查询使用count()方法,语法如下
db.collection.count(query, options)
参数:
query:查询选择条件
options:可选。用于修改计数的额外选项
演示:
(1)统计所有记录
统计comment集合的所有的记录数:
db.comment.count()
(2)按条件统计记录数
例如:统计userid为1003的记录条数
db.comment.count({userid:"1003"})
提示:
默认情况下 count() 方法返回符合条件的全部记录条数
8.5.2 分页列表查询
可以使用limit()方法来读取指定数量的数据,使用skip()方法来跳过指定数量的数据。
基本语法如下所示
>db.COLLECTION_NAME.find().limit(NUMBER).skip(NUMBER)
(1)limit限制查询条数
如果你想返回指定条数的记录,可以在find方法后调用limit来返回结果(TopN),默认值20,例如:
db.comment.find().limit(3) # 查询前3条记录
(2)skip跳过条数
skip方法同样接受一个数字参数作为跳过的记录条数。(前N个不要),默认值是0
db.comment.find().skip(3) # 跳过前3条
(3)分页查询
每页2个,第二页开始:跳过前两条数据,接着值显示3和4条数据
//第一页 db.comment.find().skip(0).limit(2)
//第二页 db.comment.find().skip(2).limit(2)
//第三页 db.comment.find().skip(4).limit(2)
8.5.3 排序查询
sort() 方法对数据进行排序,sort() 方法可以通过参数指定排序的字段,并使用 1 和 -1 来指定排序的方式,其中 1 为升序排列,而 -1 是用 于降序排列。
语法如下:
db.COLLECTION_NAME.find().sort({KEY:1})
或
db.集合名称.find().sort(排序方式)
例如:
对userid降序排列,并对访问量进行升序排列
db.comment.find().sort({userid:-1,likenum:1})
提示:
skip(), limilt(), sort()三个放在一起执行的时候,执行的顺序是先 sort(), 然后是 skip(),后是显示的 limit(),和命令编写顺序无关。
8.6 文档的更多查询
8.6.1 正则复杂查询
MongoDB的模糊查询是通过正则表达式的方式实现的。格式为:
db.collection.find({field:/正则表达式/})
或
db.集合.find({字段:/正则表达式/})
提示:正则表达式是js的语法,直接量的写法
例如,我要查询评论内容包含“开水”的所有文档,代码如下:
db.comment.find({content:/开水/})
如果要查询评论的内容中以“专家”开头的,代码如下:
db.comment.find({content:/^专家/})
8.6.2 比较查询
<, <=, >, >= 这个操作符也是很常用的,格式如下:
db.集合名称.find({ "field" : { $gt: value }}) // 大于: field > value db.集合名称.find({ "field" : { $lt: value }}) // 小于: field < value db.集合名称.find({ "field" : { $gte: value }}) // 大于等于: field >= value db.集合名称.find({ "field" : { $lte: value }}) // 小于等于: field <= value db.集合名称.find({ "field" : { $ne: value }}) // 不等于: field != value
示例:查询评论点赞数量大于700的记录
db.comment.find({likenum:{$gt:NumberInt(700)}})
8.6.3 包含查询
包含使用$in操作符。 示例:查询评论的集合中userid字段包含1003或1004的文档
db.comment.find({userid:{$in:["1003","1004"]}})
不包含使用$nin操作符。 示例:查询评论集合中userid字段不包含1003和1004的文档
db.comment.find({userid:{$nin:["1003","1004"]}})
8.6.4 条件连接查询
我们如果需要查询同时满足两个以上条件,需要使用$and操作符将条件进行关联。(相 当于SQL的and) 格式为:
$and:[ { },{ },{ } ]
示例:查询评论集合中likenum大于等于700 并且小于2000的文档:
db.comment.find({$and:[{likenum:{$gte:NumberInt(700)}},{likenum:{$lt:NumberInt(2000)}}]})
如果两个以上条件之间是或者的关系,我们使用 操作符进行关联,与前面 and的使用方式相同 格式为
$or:[ { },{ },{ } ]
示例:查询评论集合中userid为1003,或者点赞数小于1000的文档记录
db.comment.find({$or:[ {userid:"1003"} ,{likenum:{$lt:1000} }]})
8.7 常用命令小结
选择切换数据库:use 库名
插入数据:db.comment.insert({bson数据})
查询所有数据:db.comment.find();
条件查询数据:db.comment.find({条件})
查询符合条件的第一条记录:db.comment.findOne({条件})
查询符合条件的前几条记录:db.comment.find({条件}).limit(条数)
查询符合条件的跳过的记录:db.comment.find({条件}).skip(条数)
修改数据:db.comment.update({条件},{修改后的数据}) 或db.comment.update({条件},{$set:{要修改部分的字段:数据})
修改数据并自增某字段值:db.comment.update({条件},{$inc:{自增的字段:步进值}})
删除数据:db.comment.remove({条件})
统计查询:db.comment.count({条件})
模糊查询:db.comment.find({字段名:/正则表达式/})
条件比较运算:db.comment.find({字段名:{$gt:值}})
包含查询:db.comment.find({字段名:{$in:[值1,值2]}})或db.comment.find({字段名:{$nin:[值1,值2]}})
条件连接查询:db.comment.find({$and:[{条件1},{条件2}]})或db.comment.find({$or:[{条件1},{条件2}]})
九、索引
.1 索引概述
索引支持在MongoDB中高效地执行查询。如果没有索引,MongoDB必须执行全集合扫描,即扫描集合中的每个文档,以选择与查询语句 匹配的文档。这种扫描全集合的查询效率是非常低的,特别在处理大量的数据时,查询可以要花费几十秒甚至几分钟,这对网站的性能是非 常致命的。
如果查询存在适当的索引,MongoDB可以使用该索引限制必须检查的文档数。
索引是特殊的数据结构,它以易于遍历的形式存储集合数据集的一小部分。索引存储特定字段或一组字段的值,按字段值排序。索引项的排 序支持有效的相等匹配和基于范围的查询操作。此外,MongoDB还可以使用索引中的排序返回排序结果。
官网文档:https://docs.mongodb.com/manual/indexes/
了解:
MongoDB索引使用B树数据结构(确切的说是B-Tree,MySQL是B+Tree)
9.2 索引的类型
9.2.1 单字段索引
MongoDB支持在文档的单个字段上创建用户定义的升序/降序索引,称为单字段索引(Single Field Index)。 对于单个字段索引和排序操作,索引键的排序顺序(即升序或降序)并不重要,因为MongoDB可以在任何方向上遍历索引。
9.2.2 复合索引
MongoDB还支持多个字段的用户定义索引,即复合索引(Compound Index)。
复合索引中列出的字段顺序具有重要意义。例如,如果复合索引由 { userid: 1, score: -1 } 组成,则索引首先按userid正序排序,然后 在每个userid的值内,再在按score倒序排序。
9.2.3 其他索引
地理空间索引(Geospatial Index)、文本索引(Text Indexes)、哈希索引(Hashed Indexes)。
为了支持对地理空间坐标数据的有效查询,MongoDB提供了两种特殊的索引:返回结果时使用平面几何的二维索引和返回结果时使用球面 几何的二维球面索引。
9.3 索引管理操作
9.3.1 索引的查看
db.集合名.getIndexes()
[
{
"v" : 2, # mongodb引擎的版本号(不用管)
"key" : {
"_id" : 1 # 默认主键
},
"name" : "_id_", # 索引名称
"ns" : "jeff.comment" # 索引的位置
}
]
9.3.2 创建索引
db.集合名.createIndex(keys, options)
参数:
keys:包含字段和值对的文档,其中字段是索引键,值描述该字段的索引类型。对于字段上的升序索引,请 指定值1;对于降序索引,请指定值-1。比如: {字段:1或-1} ,其中1 为指定按升序创建索引,如果你 想按降序来创建索引指定为 -1 即可。另外,MongoDB支持几种不同的索引类型,包括文本、地理空 间和哈希索引。
options:可选。包含一组控制索引创建的选项的文档。有关详细信息,请参见选项详情列表。
options(更多选项)列表:
Parameter | Type | Description |
---|---|---|
background | Boolean | 建索引过程会阻塞其它数据库操作,background可指定以后台方式创建索引,即增加 "background" 可选参数。"background" 默认值为false。 |
unique | Boolean | 建立的索引是否唯一。指定为true创建唯一索引。默认值为false. |
name | string | 索引的名称。如果未指定,MongoDB的通过连接索引的字段名和排序顺序生成一个索引名 称。 |
dropDups | Boolean | 3.0+版本已废弃。在建立唯一索引时是否删除重复记录,指定 true 创建唯一索引。默认值为 false. |
sparse | Boolean | 对文档中不存在的字段数据不启用索引;这个参数需要特别注意,如果设置为true的话,在索 引字段中不会查询出不包含对应字段的文档.。默认值为 false. |
expireAfterSeconds | integer | 指定一个以秒为单位的数值,完成 TTL设定,设定集合的生存时间。 |
v | index version | 索引的版本号。默认的索引版本取决于mongod创建索引时运行的版本。 |
weights | document | 索引权重值,数值在 1 到 99,999 之间,表示该索引相对于其他索引字段的得分权重。 |
default_language | string | 对于文本索引,该参数决定了停用词及词干和词器的规则的列表。 默认为英语 |
language_override | string | 对于文本索引,该参数指定了包含在文档中的字段名,语言覆盖默认的language,默认值为 language. |
提示:
注意在 3.0.0 版本前创建索引方法为 db.collection.ensureIndex() ,之后的版本使用了 db.collection.createIndex() 方法, ensureIndex() 还能用,但只是 createIndex() 的别名。
演示:
(1)创建单字段索引
对 userid 字段建立索引
db.comment.createIndex({userid:1}) # 升序
# 查看一下索引
db.comment.getIndexes()
(2)创建符合索引
对 userid 和 nickname 同时建立复合(Compound)索引:
db.comment.createIndex({userid:1,nickname:-1})
# 查看一下索引
db.comment.getIndexes()
9.3.3 删除索引
(1)指定索引删除
db.集合名.dropIndex(索引)
eg:
db.comment.dropIndex({userid:1}) # 删除{userid:1}索引
(2)删除所有索引
_id索引永远不会被删除
db.集合名.dropIndexes()
eg:
db.comment.dropIndexes() # 删除comment集合的所有索引
9.4 索引的使用
9.4.1 执行计划
分析查询性能 通常使用执行计划来查看查询的情况,如查询耗费的时间、是 否基于索引查询等。
那么,通常,我们想知道,建立的索引是否有效,效果如何,都需要通过执行计划查看。
db.集合名.find(query,options).explain(options)
eg:
db.comment.find({userid:"1003"}).explain() # 查看根据userid查询数据的情况
"stage" : "COLLSCAN", # 全局扫描
"stage" : "FETCH", # 抓取
(1)没有索引的情况
(2)有索引的情况
9.4.2 覆盖查询
十、python使用MongoDB
10.1 安装pymongo,建立连接
pip install pymongo
建立连接
import pymongo
from pymongo import MongoClient
client = MongoClient('localhost',27017)
#client = MongoClient('mongodb://localhost:27017')
10.2 插入
指定数据库指定集合
db = client.jeff
users = db.comment
(1)插入单行
插入一个文档 insert_one()
文档就是一行,集合就是一个表
user1 = {"name":"li8","age":8}
rs = users.insert_one(user1)
print('one insert:{0}'.format(rs.inserted_id))
(2)插入多行
多个 insert_many()
user2 = {"name":"li9","age":9}
user3 = {"name":"li10","age":10}
user4 = {"name":"li11","age":11}
user5 = {"name":"li12","age":12}
new_result = users.insert_many([user2, user3, user4, user5])
print('Multiple users: {0}'.format(new_result.inserted_ids))
10.3 查询文档
(1)查询一条
from pymongo import MongoClient
client = MongoClient('127.0.0.1', 27017)
db = client.jeff
users = db.comment
usertmp = users.find_one({'userid': '1003'})
print(usertmp)
(2)查询多条
from pymongo import MongoClient
client = MongoClient('127.0.0.1', 27017)
db = client.jeff
users = db.comment
usertmp = users.find({'userid': '1003'})
for tmp in usertmp:
print(tmp)
(3)比较查询,大于小于等于
from pymongo import MongoClient
client = MongoClient('127.0.0.1', 27017)
db = client.jeff
users = db.comment
rs = users.find({'age':{"$lt":30}}).sort("name")
for tmp in rs:
print(tmp)
(4)统计查询
from pymongo import MongoClient
client = MongoClient('127.0.0.1', 27017)
db = client.jeff
users = db.comment
print(users.count())
(5)加索引
from pymongo import MongoClient
client = MongoClient('127.0.0.1', 27017)
db = client.jeff
users = db.comment
from pymongo import ASCENDING, DESCENDING
print(users.create_index([("age", DESCENDING), ("name", ASCENDING)]))
10.4 数据导入备份
(1)数据导出
# 指定库,指定集合,指定字段
mongoexport -d jeff -c comment --csv -f name,age -o e:\users.csv
mongoexport -d 数据库名 -c 集合名 -o 导出文件路径名 --type json/csv -f field
eg:
mongoexport -d mongotest -c users -o /home/python/Desktop/mongoDB/users.json --type json -f "_id,user_id,user_name,age,status"
参数说明:
-d :数据库名
-c :collection名
-o :输出的文件名
--type : 输出的格式,默认为json
-f :输出的字段,如果-type为csv,则需要加上-f "字段名"
(2)数据导入
mongoimport -d dbname -c collectionname --file filename --headerline --type json/csv -f field
参数说明:
-d :数据库名
-c :collection名
--type :导入的格式默认json
-f :导入的字段名
--headerline :如果导入的格式是csv,则可以使用第一行的标题作为导入的字段
--file :要导入的文件
eg:
mongoimport -d mongotest -c users --file /home/mongodump/articles.json --type json
(3)MongoDB数据库备份
mongodump -h dbhost -d dbname -o dbdirectory
参数说明:
-h: MongDB所在服务器地址,例如:127.0.0.1,当然也可以指定端口号:127.0.0.1:27017
-d: 需要备份的数据库实例,例如:test
-o: 备份的数据存放位置,例如:/home/mongodump/,当然该目录需要提前建立,这个目录里面存放该数据库实例的备份数据
实例:
sudo rm -rf /home/momgodump/
sudo mkdir -p /home/momgodump
sudo mongodump -h 192.168.17.129:27017 -d itcast -o /home/mongodump/
(4)MongoDB数据库恢复
mongorestore -h dbhost -d dbname --dir dbdirectory
参数或名:
-h: MongoDB所在服务器地址
-d: 需要恢复的数据库实例,例如:test,当然这个名称也可以和备份时候的不一样,比如test2
--dir: 备份数据所在位置,例如:/home/mongodump/itcast/
--drop: 恢复的时候,先删除当前数据,然后恢复备份的数据。就是说,恢复后,备份后添加修改的数据都会被删除,慎用!
实例:
mongorestore -h 192.168.17.129:27017 -d itcast_restore --dir /home/mongodump/itcast/