MongoDB和pymongo的CURD
一、mongodb
1、介绍
MongoDB是非关系型数据库。
MongoDB是一个基于分布式文件存储的数据库。由C++语言编写。旨在为WEB应用提供可扩展的高性能数据存储解决方案。
MongoDB是一个介于关系数据库和非关系数据库之间的产品，是非关系数据库当中功能最丰富，最像关系数据库的。它支持的数据结构非常松散，是类似json的bson格式，因此可以存储比较复杂的数据类型。Mongo最大的特点是它支持的查询语言非常强大，其语法有点类似于面向对象的查询语言，几乎可以实现类似关系数据库单表查询的绝大部分功能，而且还支持对数据建立索引。
主要应用场景
1.爬虫数据的存储 2.各种应用服务的日志存储(弹性结构没有表结构限制) 3.敏捷开发，如果想快速构建应用系统，同时还想拥有高性能，高灵活性的schema，用MongoDB吧 4.地理位置信息存储，通过2d和2dsphere索引，可以方便的查询出具体的位置信息 2d index: 使用2d index 能够将数据作为2维平面上的点存储起来， 在MongoDB 2.2以前 推荐使用2d index索引。 2dsphere index: 2dsphere index 支持球体的查询和计算，同时它支持数据存储为GeoJSON 和传统坐标。 创建测试数据： db.mapinfo.insert({"address" : "南京 禄口国际机场","loc" : { "type": "Point", "coordinates": [118.783799,31.979234]}}) db.mapinfo.insert({"address" : "南京 浦口公园","loc" : { "type": "Point", "coordinates": [118.639523,32.070078]}}) db.mapinfo.insert({"address" : "南京 火车站","loc" : { "type": "Point", "coordinates": [118.803032,32.09248]}}) db.mapinfo.insert({"address" : "南京 新街口","loc" : { "type": "Point", "coordinates": [118.790611,32.047616]}}) db.mapinfo.insert({"address" : "南京 张府园","loc" : { "type": "Point", "coordinates": [118.790427,32.03722]}}) db.mapinfo.insert({"address" : "南京 三山街","loc" : { "type": "Point", "coordinates": [118.788135,32.029064]}}) db.mapinfo.insert({"address" : "南京 中华门","loc" : { "type": "Point", "coordinates": [118.781161,32.013023]}}) db.mapinfo.insert({"address" : "南京 安德门","loc" : { "type": "Point", "coordinates": [118.768964,31.99646]}}) 创建地理索引 （2d和2dsphere，对应平面和球面。） db.mapinfo.ensureIndex( { loc : "2dsphere" } ) 查看地里索引是否创建成功： db.mapinfo.reIndex(); 删除索引方法： db.mapinfo.dropIndex("name_1"); 检索规定半径以内数据（单位为米） db.mapinfo.find({ "loc" : { "$near" : { "$geometry" : { "type" : "Point", "coordinates" : [118.783799, 31.979234] }, "$maxDistance" : 5000 } } }).limit(50);
2、下载安装
3、mongodb的优势
4、几种常见的数据库
mysql 关系型数据库，数据保存磁盘上
redis 非关系型数据库，缓存在内存(可以持久化) 支持更丰富的数据类型
key：value(value有五种类型：string list hash set Sorted Set)
memcache 非关系型数据库，缓存在内存
key：value（value必须是字符串）
mongodb 非关系型数据库，数据存储在磁盘上
5、MySQL与MongoDB术语对比
| MySQL | MongoDB |
|---|---|
| 数据库(database) | 数据库(db) |
| 表(table) | 集合(collection) |
| 列(column) | 字段(field) |
| 行(Row) | 文档(document) |
二、mongodb的CURD
启动MongoDB
1、windows下启动MongoDB 1.启动服务器 - 打开命令窗口，切换到mongodb安装目录下的“bin”目录中(我的目录是：D:\Tools\MongoDB\Server\bin) cd D:\Tools\MongoDB\Server\bin - 启动MongoDB服务 mongod.exe --dbpath D:\Tools\MongoDB\Server\data 2.启动客户端 cd D:\Tools\MongoDB\Server\bin mongo.exe
1、数据库操作
# 没有这个数据库则创建，有则切换到这个数据库 # 需要注意的是，新创建的数据库，在没有数据时，并不会真正创建 # 只有新建的数据库有了数据后，才会真正创建 > use t1 switched to db t1 # 展示所有数据库 > show dbs admin 0.000GB config 0.000GB local 0.000GB # 新增一个集合(相当于mysql的表)并插入一个文档(相当于mysql的记录) > db.article.insert({"title":"红楼梦"}) WriteResult({ "nInserted" : 1 }) > show dbs; admin 0.000GB config 0.000GB local 0.000GB t1 0.000GB > show tables; article # 删除当前所选数据库 > db.dropDatabase() { "dropped" : "t1", "ok" : 1 } > show dbs; admin 0.000GB config 0.000GB local 0.000GB
2、集合操作
> use test2 switched to db test2 # 新增一个集合并插入文档 > db.school.insert({"title":"清华"}) WriteResult({ "nInserted" : 1 }) > db.school.insert({"title":"北大"}) WriteResult({ "nInserted" : 1 }) # 展示所有集合 > show tables; school # 删除集合 > db.school.drop() true > show tables; >
三、文档操作
由于文档操作比较重要，单独拿出来
1、添加文档
# 1.没有指定_id则默认ObjectId,_id不能重复，且在插入后不可变 # 2.插入单条 user0={ "name":"gouzi", "age":99, "hobbies":["gutou","rou"], "addr":{ "country":"China", "city":"GZ" } } use userinfo; db.test.insert(user0) db.test.find() # 3.插入多条 user1={ "_id":1, "name":"xiaoming", "age":28, "hobbies":["girls","read","smoke"], "addr":{ "country":"China", "city":"GuangZhou" } } user2={ "_id":2, "name":"xiaohua", "age":18, "hobbies":["boys","drive","swim"], "addr":{ "country":"China", "city":"DongGuan" } } user3={ "_id":3, "name":"waimaige", "age":30, "hobbies":["food","drink"], "addr":{ "country":"China", "city":"ShenZhen" } } user4={ "_id":4, "name":"mangseng", "age":40, "hobbies":["moyan","rFlash","dancing","jiuren"], "addr":{ "country":"China", "city":"waluolan" } } user5={ "_id":5, "name":"tuoersuo", "age":50, "hobbies":["EEEE","happy","hasaki"], "addr":{ "country":"China", "city":"aiouniya" } } db.user.insertMany([user1,user2,user3,user4,user5]) db.user.find()
2、查看文档
查找文档主要使用find()方法，find方法有两个参数，
第一个参数代表要筛选出来的文档，第二个参数是代表要展示的字段，
不写或者写空{} 代表全部
1. 比较运算 # SQL： != > < >= <= # MongoDB："$ne","$gt","$lt","gte","lte",其中"$ne"能用于所有数据类型 # 1、select * from db1.user where name = "xiaohua"; # 查找name=xioahua的文档 db.user.find({"name":"xiaohua"}) # 2、select * from db1.user where name != "xiaohua"; # 查找name!=xioahua的文档 db.user.find({"name":{"$ne":"xiaohua"}}) # 3、select * from db1.user where id > 2; # 查找_id>2的文档 db.user.find({"_id":{"$gt":2}}) # 4、select * from db1.user where id < 3; # 查找_id<3的文档 db.user.find({"_id":{"$lt":3}}) # 5、select * from db1.user where id >= 2; # 查找_id>=2的文档 db.user.find({"_id":{"$gte":2,}}) # 6、select * from db1.user where id <= 2; # 查找_id<=2的文档 db.user.find({"_id":{"$lte":2}}) 2. 逻辑运算 # SQL：and，or，not # MongoDB：字典中逗号分隔的多个条件是and关系，"$or","$not" # 1、select * from db1.user where id >= 2 and id < 4; db.user.find({"_id":{"$gte":2,"$lt":4}}) # 2、select * from db1.user where id >= 2 and age < 40; db.user.find({"_id":{"$gte":2},"age":{"$lt":40}}) # 3、select * from db1.user where id >= 5 or name = "xiaohua"; db.user.find({"$or":[{"_id":{"$gte":5}},{"name":"xiaohua"}]}) # 4、select * from db1.user where id % 2=1; db.user.find({"_id":{"$mod":[2,1]}}) # 就相当于取_id为奇数文档 # 5、上题，取反 db.user.find({"_id":{"$not":{"$mod":[2,1]}}}) 3. 成员运算 # SQL：in，not in # MongoDB："$in","$nin" # 1、select * from db1.user where age in (18,30,40); db.user.find({"age":{"$in":[18,30,40]}}) # 2、select * from db1.user where name not in ("xiaohua","xiaoming"); db.user.find({"name":{"$nin":["xiaohua","xiaoming"]}}) 4. 正则匹配 # SQL: regexp 正则 # MongoDB: /正则表达/i # 1、select * from db1.user where name regexp "^x.*?(h|m)"; db.user.find({"name":/^x.*?(h|m)/i}) 5. 取指定字段 第二个参数代表要展示的字段，1代表展示，0代表不展示 # 1、select name,age from db1.user where id=3; db.user.find({"_id":3},{"name":1,"age":1}) # 查询_id=3的文档，只展示name和age字段 # 2、查询_id=3的文档，除了addr字段不展示，其他都展示 db.user.find({"_id":3},{"addr":0}) # 3、展示所有文档，只展示name字段 db.user.find({},{"name":1}) # 4、注意，1和0不能同时使用 # 因为1代表只展示这个字段，0代表除了这个字段都展示，因此会产生歧义 db.user.find({},{"name":1,"age":0}) # 这是错误的语法，是只展示name，还是除了age都展示 # 5、有种特殊的情况，1和0可以同时使用，就是_id为0可以跟其他字段的1一起使用 # 因为_id默认都是展示的，让_id为0可以让它不展示 db.userinfo.find({},{"name":1,"_id":0}) # 让默认展示的_id字段不展示 6. 查询数组 # 1、查看有drive爱好的人 db.user.find({"hobbies":"drive"}) # 2、查看既有drive爱好又有swim爱好的人 db.user.find({"hobbies":{"$all":["drive","swim"]}}) # 3、查看第2个爱好为drink的人 db.user.find({"hobbies.1":"drink"}) # 4、查看所有人最后两个爱好 db.user.find({},{"hobbies":{"$slice":-2},"age":0,"_id":0,"name":0,"addr":0}) # 5、查看所有人的第2个到第3个爱好 db.user.find({},{"hobbies":{"$slice":[1,2]},"age":0,"_id":0,"name":0,"addr":0}) 7. 排序 # 1 代表升序，-1 代表降序 db.user.find().sort({"name":1,}) # 按name升序排序 db.user.find().sort({"age":-1,"_id":1}) # 按age降序排序，age相同的按_id升序排序 8. 分页 # 分页:--limit代表取多少个document，skip代表跳过前多少个document。 # 按age升序排序后，取两条文档， db.user.find().sort({"age":1}).limit(2) # 按age升序排序后，跳过前两条文档，显示剩下的文档 db.user.find().sort({"age":1}).skip(2) # 按age升序排序后，跳过两条文档，取两条文档，即取第三、四条文档 db.user.find().sort({"age":1}).limit(2).skip(2) 9. 查询数量 # 查询age大于30的文档数 db.user.count({"age":{"$gt":30}}) 或者 db.user.find({"age":{"$gt":30}}).count() 10. 其它 # 1、{"key":null} 匹配key的值为null或者没有这个key db.test2.insert({"a":1,"b":2}) db.test2.insert({"a":10}) db.test2.insert({"b":null}) > db.test2.find({"b":null}) { "_id" : ObjectId("5c4a7389f164aacd99e52430"), "a" : 10 } { "_id" : ObjectId("5c4a7390f164aacd99e52431"), "b" : null } # 2、查找所有 db.user.find() # 等同于db.user.find({}) db.user.find().pretty() # 把结果格式化输出给我们看 # 3、查找一个，与find用法一致，只是只取匹配成功的第一个 db.user.findOne({"_id":{"$gt":3}})
3、修改文档
1. update的语法 update() 方法用于更新已存在的文档。语法格式如下： db.collection.update( <query>, <update>, { upsert: <boolean>, multi: <boolean>, writeConcern: <document> } ) 参数说明 query : 相当于where条件。 update : update的对象和一些更新的操作符（如$,$inc...等，相当于set后面的 upsert : 可选，默认为false，代表如果不存在update的记录不更新也不插入，设置为true代表插入。 multi : 可选，默认为false，代表只更新找到的第一条记录，设为true,代表更新找到的全部记录。 writeConcern :可选，抛出异常的级别。 更新操作是不可分割的：若两个更新同时发送，先到达服务器的先执行，然后执行另外一个，不会破坏文档。 2. 覆盖更新 # 注意：除非是删除，否则_id是始终不会变的 # 1、 db.user.update({"_id":3},{"name":"liqing","age":58,"long":18}) 是用{"_id":3,"name":"liqing","long":18}覆盖原来的记录 # 2、一种最简单的更新就是用一个新的文档完全替换匹配的文档。这适用于大规模式迁移的情况。例如 var obj=db.user.findOne({"_id":3}) obj.name="SB"+obj.name obj.long=obj.long-15 delete obj.age db.user.update({"_id":3},obj) 3. 局部更新 # 设置：$set 通常文档只会有一部分需要更新。可以使用原子性的更新修改器，指定对文档中的某些字段进行更新。 更新修改器是种特殊的键，用来指定复杂的更新操作，比如修改、增加后者删除。 $set 即可以局部更新，也可以进行修改-增的操作 # 1、update db1.user set name="xiazi" where id = 3 db.user.update({"_id":3},{"$set":{"name":"xiazi",}}) # 把_id为3的文档的name字段更改为 xiazi # $set既能修改某个文档的字段的值，也能给某个文档增加字段 db.user.update({"_id":3},{"$set":{"myname":"zbj"}}) # 给_id为3的文档增加一个myname字段 db.user.update({"_id":3},{"$set":{"addr.country":"China"}}) # 给_id为3的文档增加一个 addr 字段，addr是个字典，里面的键值对是 country: China # 2、不存在的文档，update的记录不更新也不插入，upsert设置为true，则没有匹配成功就新增一条 db.user.update({"_id":6},{"$set":{"name":"VN","age":18}},{"upsert":true}) # 3、默认只改匹配成功的第一条,{"multi":改多条} db.user.update({"_id":{"$gte":5}},{"$set":{"age":19}}) db.user.update({"_id":{"$gte":5}},{"$set":{"age":20}},{"multi":true}) # 4、修改内嵌文档，把名字为xiaoming的人所在的地址国家改成ZH db.user.update({"name":"xiaoming"},{"$set":{"addr.country":"ZH"}}) #5、把名字为xiaoming的人的第2个爱好改成piao db.user.update({"name":"xiaoming"},{"$set":{"hobbies.1":"piao"}}) #6、删除xiaoming的爱好,$unset db.user.update({"name":"xiaoming"},{"$unset":{"hobbies":""}}) # 给要删除的字段任意值即可，会删除 db.user.update({"name":"xiaoming"},{"$unset":{"addr.country":""}}) # 删除对象中的某个字段 4. 自增或自减 # 增加和减少：$inc # 1、所有人年龄增加一岁 db.user.update({},{"$inc":{"age":1}},{"multi":true}) # 2、所有人年龄减少3岁 db.user.update({},{"$inc":{"age":-3}},{"multi":true}) 5. 添加删除数组内元素 # 添加删除数组内元素：$push,$pop,$pull # 往数组内添加元素:$push # 1、为名字为tuoersuo的人添加一个爱好read db.user.update({"name":"tuoersuo"},{"$push":{"hobbies":"read"}}) # 2、为名字为tuoersuo的人一次添加多个爱好 db.user.update({"name":"tuoersuo"},{"$push":{"hobbies":{"$each":["tong","tuo"]}}}) # 按照位置且只能从开头或结尾删除元素：$pop # 3、{"$pop":{"key":1}} 从数组末尾删除一个元素 db.user.update({"name":"tuoersuo"},{"$pop":{"hobbies":1}}) # 4、{"$pop":{"key":-1}} 从头部删除 db.user.update({"name":"tuoersuo"},{"$pop":{"hobbies":-1}}) # 5、"$pull" 指定删掉某个元素，而$pop只能从两端删，这里是删除 hobbies 数组的read元素 db.user.update({},{"$pull":{"hobbies":"read"}},{"multi":true}) 6. 避免重复添加 # 因为使用 $push 是可以给列表添加重复的元素的，想要避免重复添加相同的元素，则使用 "$addToSet" db.urls.insert({"_id":1,"urls":[]}) db.urls.update({"_id":1},{"$addToSet":{"urls":"http://www.baidu.com"}}) db.urls.update({"_id":1},{"$addToSet":{"urls":"http://www.baidu.com"}}) db.urls.update({"_id":1},{"$addToSet":{"urls":"http://www.baidu.com"}}) db.urls.update({"_id":1},{ "$addToSet":{ "urls":{ "$each":[ "http://www.baidu.com", "http://www.baidu.com", "http://www.xxxx.com" ] } } }) 7. 其它 # 1、限制大小"$slice"，只留最后n个 # push和each添加了"read","music","dancing"，slice限制大小，最后只添加了"music"和"dancing" db.user.update({"_id":6},{"$push":{"hobbies":{"$each":["read","music","dancing"],"$slice":-2}}}) # 2、sort降序排序后，push和each添加c,b,a，slice限制大小，最后只剩下a db.user.update({"_id":6},{"$push":{"hobbies":{"$each":["a","b","c"],"$slice":-1,"$sort":-1}}}) # 注意：不能只将"$slice"或者"$sort"与"$push"配合使用，且必须使用"$each"
4、删除文档
# 1、删除多个中的第一个 db.user.deleteOne({"age":19}) # 2、删除国家为China的全部 db.user.deleteMany({"addr.country":"China"}) db.user.remove({"addr.country":"China"}) # 3、删除全部 db.user.deleteMany({}) db.user.remove({})
5、删除
# 删除当前所选数据库 use dbname # 选择这个数据库 db.dropDatabase() # 然后删除这个数据库 # 删除集合 db.集合名.drop() # 删除文档 db.集合名.deleteOne(query) # 删除一条文档 db.集合名.deleteMany(query) # 删除所有筛选出的文档 db.集合名.deleteMany({}) # 删除这个集合的所有文档
6、MySQL与MongoDB语法对比
Mongodb与Mysql的操作命令的对比
|
作用 |
MySQL |
MongoDB |
|
服务器守护进程 |
mysqld |
mongod |
|
客户端工具 |
mysql |
mongo |
|
逻辑备份工具 |
mysqldump |
mongodump |
|
逻辑还原工具 |
mysql |
mongorestore |
|
数据导出工具 |
mysqldump |
mongoexport |
|
数据导入工具 |
source |
mongoimport |
|
|
|
|
|
新建用户并授权 |
grant all on *.* |
db.addUser("user","psw") |
|
显示库列表 |
show databases; |
show dbs |
|
进去库 |
use dbname; |
use dbname |
|
显示表列表 |
show tables; |
show collections 或者 show tables |
|
查询主从状态 |
show slave status; |
rs.status |
|
创建库 |
create database dbname; |
无需单独创建，直接use进去, use dbname |
|
创建表 |
create table tname(字段 类型 约束...); |
无需单独创建，直接插入数据 , db.tname.insert({"field": value}) |
|
删除表 |
drop table tname; |
db.tname.drop() |
|
删除库 |
drop database dbname; |
首先进去该库，use dbname, 然后删除，db.dropDatabase() |
|
|
|
|
|
插入记录 |
insert into tname(id,age) values(1,18); |
db.tname.insert({"id":1,"age":18}) |
|
插入多条记录 |
insert into tname(id,age) values(2,19),(3,20)... |
db.tname.insertMany({"id":2,"age":19},{"id":3,"age":20}) |
|
删除记录 |
delete from tname where id < 3; |
db.tname.deleteOne({"id":{"$lt":3}}) # 只删除一条 db.tname.deleteMany({"id":{"$lt":3}}) # 可删除多条 db.tname.remove({"id":{"$lt":3}}) # 可删除多条 |
|
修改/更新记录 |
update tname set id=2 |
db.tname.update({"id":1}, |
|
|
|
|
|
查询所有记录 |
select * from tname; |
db.tname.find() |
|
查询指定列 |
select id from tname; |
db.tname.find({},{id:1}) |
|
条件查询 |
select * from tname where id=1; |
db.tname.find({id:1}) |
|
条件查询 |
select * from tname where id < 3; |
db.tname.find({id:{$lt:3}}) |
|
条件查询 |
select * from tname where id >=3; |
db.tname.find({id:{$gte:3}}) |
|
条件查询 |
select * from tname where id=2 |
db.tname.find({id:2, |
|
条件查询 |
select * from tname where id=2 |
db.tname.find($or:[{id:2}, |
|
条件查询 |
select * from tname limit 1; |
db.tname.findOne() db.tname.find().limit(1) |
|
|
|
|
|
模糊查询 |
select * from tname where name |
db.tname.find({name:/xxx/}) |
|
模糊查询 |
select * from tname where name |
db.tname.find({name:/^xxx/}) |
|
|
|
|
|
获取表记录数 |
select count(id) from tname; |
db.tname.count() db.tname.find().count() |
|
获取有条件 |
select count(id) from tname |
db.tname.find({id:2}).count() |
|
查询指定列并去 |
select distinct age |
db.tname.distinct('age') |
|
|
|
|
|
正排序查询 |
select *from tname order by id; |
db.tname.find().sort({id:1}) |
|
逆排序查询 |
select *from tname |
db.tname.find().sort({id:-1}) |
|
|
|
|
|
取存储路径 |
explain select * from tname |
db.tname.find({id=3}).explain() |
四、pymongo
1、注意事项
1. 在python中使用MongoDB,下载pymongo: pip install pymongo
2. MongoDB默认的端口是27017
2、使用pymongo的连接MongoDB
import pymongo # 1.创建一个MongoDB的连接对象 client = pymongo.MongoClient(host='localhost', port=27017) client = pymongo.MongoClient('mongodb://localhost:27017/') # 两种方式是等价的 # 2.指定数据库 # MongoDB中还分为一个个数据库，需要在程序中指定要使用的数据库 db = client.school # 使用mongodb中的school数据库 db = client['school'] # 两种方式是等价的 # 3.指定集合 # MongoDB的每个数据库又包含了许多集合Collection，也就类似与关系型数据库中的表 collection = db.teacher # 指定一个集合名称为teacher collection = db['teacher'] # 两种方式是等价的
3、插入数据
# 1.插入一条数据 teacher1 = { 'id': '201901', 'name': '张三丰', 'age': 30, 'gender': 'male' } # 在这里我们指定了老师的编号、姓名、年龄和性别 # 调用collection的insert()方法即可插入数据。 result = collection.insert(teacher1) print(result) # 在MongoDB中，每条数据其实都有一个_id属性来唯一标识，如果没有显式指明_id，MongoDB会自动产生一个ObjectId类型的_id属性。 # insert()方法会在执行后返回_id的值。 # 2. 插入多条数据，只需要以列表形式传递即可 teacher2 = { 'id': '201902', 'name': '虚竹', 'age': 26, 'gender': 'male' } teacher3 = { 'id': '201903', 'name': '孔明', 'age': 27, 'gender': 'male' } result = collection.insert([teacher2, teacher3]) print(result) # 实际上在PyMongo 3.X版本中，insert()方法官方已经不推荐使用了，当然继续使用也没有什么问题， # 官方推荐使用insert_one()和insert_many()方法将插入单条和多条记录分开。 # 3.使用insert_one()插入一条数据 teacher = { 'id': '20190101', 'name': 'Jordan', 'age': 20, 'gender': 'male' } result = collection.insert_one(teacher) print(result) print(result.inserted_id) # 返回结果和insert()方法不同，这次返回的是InsertOneResult对象，我们可以调用其inserted_id属性获取_id # 4.使用insert_many()插入多条数据 teacher1 = { 'id': '20190101', 'name': 'Jordan', 'age': 20, 'gender': 'male' } teacher2 = { 'id': '20190202', 'name': 'Mike', 'age': 21, 'gender': 'male' } result = collection.insert_many([teacher1, teacher2]) print(result) print(result.inserted_ids) # insert_many()方法返回的类型是InsertManyResult，调用inserted_ids属性可以获取插入数据的_id列表
4、查询数据
# 插入数据后我们可以利用find_one()或find()方法进行查询，find_one()查询得到是单个结果，find()则返回多个结果。 """ find()查询得到的结果是一个迭代器 如果需要取里面的各个元素，则需要使用for循环或者next()方法取值 """ # 1.find_one查询一条数据 result = collection.find_one({'name': '张三丰'}) print(type(result)) # <class'dict'>字典类型 print(result) # {'_id': ObjectId('5932a80115c2606a59e8a049'), 'id': '20190202', 'name': 'Mike', 'age': 21, 'gender': 'male'} # 可以发现它多了一个_id属性，这就是MongoDB在插入的过程中自动添加的。 # 2.通过ObjectId来查询 # 我们也可以直接根据ObjectId来查询，这里需要使用bson库里面的ObjectId from bson.objectid import ObjectId result = collection.find_one({'_id': ObjectId('5c4a863296c29911d45eafb9')}) print(result) # 其查询结果依然是字典类型 # 如果查询_id':结果不存在则会返回None。 # 3.find查询多条数据 # 对于多条数据的查询，我们可以使用find()方法，例如在这里查找年龄为20的数据，示例如下： results = collection.find({'age': 30}) print(results) for result in results: # 循环取值 print(result) # 如果要查询年龄大于26的数据，则写法如下： results = collection.find({'age': {'$gt': 26}}) print(results) print(next(results)) # 取第一个值 print(next(results)) # 取第二个值 for result in results: # 也可以循环取值(看情况选择其中一种方法取值即可) print(result)
5、比较符号
符号含义示例 $lt小于{'age': {'$lt': 20}} $gt大于{'age': {'$gt': 20}} $lte小于等于{'age': {'$lte': 20}} $gte大于等于{'age': {'$gte': 20}} $ne不等于{'age': {'$ne': 20}} $in在范围内{'age': {'$in': [20, 23]}} $nin不在范围内{'age': {'$nin': [20, 23]}} # 另外还可以进行正则匹配查询，例如查询名字以M开头的学生数据，示例如下： results = collection.find({'name': {'$regex': '^M.*'}}) # 在这里使用了$regex来指定正则匹配，^M.*代表以M开头的正则表达式，这样就可以查询所有符合该正则的结果。
6、功能符号
符号含义示例示例含义 $regex匹配正则{'name': {'$regex': '^M.*'}}name以M开头 $exists属性是否存在{'name': {'$exists': True}}name属性存在 $type类型判断{'age': {'$type': 'int'}}age的类型为int $mod数字模操作{'age': {'$mod': [5, 0]}}年龄模5余0 $text文本查询{'$text': {'$search': 'Mike'}}text类型的属性中包含Mike字符串 $where高级条件查询{'$where': 'obj.fans_count == obj.follows_count'}自身粉丝数等于关注数 更多请看官网： https://docs.mongodb.com/manual/reference/operator/query/
7、计数
# 要统计查询结果有多少条数据，可以调用count()方法，如统计所有数据条数： count = collection.find().count() print(count) # 或者统计符合某个条件的数据： count = collection.find({'age': 30}).count() print(count)
8、排序/偏移/限制大小
# 可以调用sort方法，传入排序的字段及升降序标志即可，示例如下： results = collection.find().sort('age', pymongo.ASCENDING) # 升序 results = collection.find().sort('age', 1) # 升序 results = collection.find().sort('age', pymongo.DESCENDING) # 降序 results = collection.find().sort('age', -1) # 降序 print([result['name'] for result in results]) # 偏移,利用skip()方法偏移几个位置，比如偏移2，就忽略前2个元素，得到第三个及以后的元素。 results = collection.find().sort('age', pymongo.ASCENDING).skip(2) print([result['name'] for result in results]) # 另外还可以用limit()方法指定要取的结果个数，示例如下： results = collection.find().sort('age', pymongo.ASCENDING).skip(2).limit(2) print([result['name'] for result in results]) # 值得注意的是，在数据库数量非常庞大的时候，如千万、亿级别，最好不要使用大的偏移量来查询数据，很可能会导致内存溢出， # 可以使用类似find({'_id': {'$gt': ObjectId('593278c815c2602678bb2b8d')}}) 这样的方法来查询，记录好上次查询的_id。
9、更新
""" update和update_one都是更新一条数据 update_many是更新多条数据，pymongo没有{multi: True}参数 """ # 1、覆盖更新：对于数据更新可以使用update()方法，指定更新的条件和更新后的数据即可，例如： result = collection.update({'name': '孔明'}, {"name": "孔明2", "age":25}) res = collection.find_one({"name": "孔明2"}) print(res) # {'_id': ObjectId('5c4a87ec96c29921244e904b'), 'name': '孔明2', 'age': 25} # 2、$set 局部更新 # update_one只更新一条数据，$set表示在数据原来的基础上进行修改 result = collection.update_one({'name': '张三丰'}, {'$set': {'age': '35'}}) res = collection.find_one({"name": "张三丰"}) print(res) # {'_id': ObjectId('5c4a863296c29911d45eafb9'), 'id': '201901', 'name': '张三丰', 'age': '35', 'gender': 'male'} # 3、update_one()只更新一条数据，update_many()更新所有符合条件的数据 # 更新年龄大于20的数据，然后更新条件为{'$inc': {'age': 1}}，执行之后会将第一条符合条件的数据年龄加1 result = collection.update_one({'age': {'$gt': 20}}, {'$inc': {'age': 1}}) # update_many更新所有符合条件的数据 result = collection.update_many({'age': {'$gt': 20}}, {'$inc': {'age': 1}}) print(result) print(result.matched_count, result.modified_count)
10、删除
# 1、remove()方法，指定删除的条件即可，符合条件的所有数据均会被删除 result = collection.remove({'name': '孔明2'}) # 2、delete_one()删除一条数据 # delete_one()即删除第一条符合条件的数据，delete_many()即删除所有符合条件的数据，返回结果是DeleteResult类型 # 可以调用deleted_count属性获取删除的数据条数。 result = collection.delete_one({'name': '张三丰'}) print(result) print(result.deleted_count) # 3、delete_many()删除所有符合条件的数据，相当于remove()方法 result = collection.delete_many({'age': {'$lt': 25}}) print(result.deleted_count)
11、更多
另外PyMongo还提供了一些组合方法，如find_one_and_delete()、find_one_and_replace()、find_one_and_update()， 就是查找后删除、替换、更新操作，用法与上述方法基本一致。 另外还可以对索引进行操作，如create_index()、create_indexes()、drop_index()等。 详细用法可以参见官方文档：http://api.mongodb.com/python/current/api/pymongo/collection.html 另外还有对数据库、集合本身以及其他的一些操作，可以参考官方文档： http://api.mongodb.com/python/current/api/pymongo/
五、mongodb聚合管道
声明：非关系型数据库，涉及到的多表查询超过3张表以上，那么建议更换数据库，
非关系型数据库应避免多表关联，非关系数据库难当复杂查询的大任，尽早弃用才是。
其实数据库关联无论在关系型数据库还是非关系型数据库都是一个比较慢的操作
NoSQL 在设计时就不应该存在太多的关联，如果存在，则应该选择关系型数据库。
这里解析一下MongoDB的两表查询。
1、聚合管道aggregate()
管道在Unix和Linux中一般用于将当前命令的输出结果作为下一个命令的参数。
MongoDB的聚合管道将MongoDB文档在一个管道处理完毕后将结果传递给下一个管道处理。管道操作是可以重复的。
表达式：处理输入文档并输出。表达式是无状态的，只能用于计算当前聚合管道的文档，不能处理其它的文档。
聚合管道的表达式如下：
db.collection_name.aggregate(
[{}, {}, ...]
)
aggregate()里面是参数数组，每个花括号对应称为一个管道阶段。每个花括号里面使用不同的管道操作器。aggregate()就通过不同的管道操作器来实现处理数据的目的，同时aggregate()按顺序处理管道阶段操作器。
分组和连表查询都是使用aggregate进行的。
常用管道
在mongodb中，文档处理完毕后，通过管道进行下一次处理
常用管道如下：
| 命令 | 功能描述 |
| $project | 指定输出文档里的字段. |
| $match | 选择要处理的文档，与fine()类似。 |
| $limit | 限制传递给下一步的文档数量。 |
| $skip | 跳过一定数量的文档。 |
| $unwind | 扩展数组，为每个数组入口生成一个输出文档。 |
| $group | 根据key来分组文档。 |
| $sort | 排序文档。 |
| $geoNear | 选择某个地理位置附近的的文档。 |
| $out | 把管道的结果写入某个集合。 |
| $redact | 控制特定数据的访问。 |
|
$lookup |
多表关联（3.2版本新增） |
mongo的聚合操作和mysql的查询做下类比
| SQL 操作/函数 | mongodb聚合操作 |
| where | $match |
| group by | $group |
| having | $match |
| select | $project |
| order by | $sort |
| limit | $limit |
| sum() | $sum |
| count() | $sum |
| join |
$lookup （v3.2 新增） |
常用表达式
处理输入文档并输出
语法：表达式：'$列名'
$sum：计算总和，$sum：1表示以一倍计数
$avg：计算平均值
$min：获取最小值
$max：获取最大值
$push：在结果文档中插入值到一个数组中
$first：根据资源文档的排序获取第一个文档数据
$last：根据资源文档的排序获取最后一个文档数据
2、常用的聚合管道
1.$group 分组 == group by
此处指定的“_id” 必需且唯一，意为根据所列的域（字段）进行分组。
如果指定： _id : null，则意为对所有行进行分组统计，即所有数据为一组。
例子：
col1={ "_id": ObjectId("7df78ad8902c"), "title": 'MongoDB Overview', "description": 'MongoDB is no sql database', "by_user": 'zbj', "url": 'http://www.zbj', "tags": ['mongodb', 'database', 'NoSQL'], "likes": 100 } col2={ "_id": ObjectId("7df78ad8902d"), "title": 'NoSQL Overview', "description": 'No sql database is very fast', "by_user": 'zbj', "url": 'http://www.zbj', "tags": ['mongodb', 'database', 'NoSQL'], "likes": 10 } col3={ "_id": ObjectId("7df78ad8902e"), "title": 'clj Overview', "description": 'clj is no sql database', "by_user": 'clj', "url": 'http://www.clj.com', "tags": ['clj', 'database', 'NoSQL'], "likes": 750 } db.mycol.insertMany([col1,col2,col3]) # 计算每个作者所写的文章数，使用aggregate()计算结果如下 db.mycol.aggregate([{$group: {_id : "$by_user", num_tutorial: {$sum: 1}}}]) """ { "_id" : "zbj", "num_tutorial" : 2 } { "_id" : "clj", "num_tutorial" : 1 }
_id代表 按xx字段 进行分组； 这里的$sum: 1意思是：按照group的条件，满足就加1，如果后面$sum:2 那么每次前面条件满足一次就加2 """ db.mycol.aggregate([{$group: {_id : "$by_user", num_tutorial: {$sum: 2}}}]) """ { "_id" : "zbj", "num_tutorial" : 4 } { "_id" : "clj", "num_tutorial" : 2 } """ # 以上实例类似sql语句 select by_user, count(*) from mycol group by by_user # 计算每个作者所写的文章总点赞数likes db.mycol.aggregate([{$group : {_id : "$by_user", num_tutorial : {$sum : "$likes"}}}]) """ { "_id" : "zbj", "num_tutorial" : 110 } { "_id" : "clj", "num_tutorial" : 750 } """
当然，还有其他的一些聚合的表达式:(可以看实例)
| 表达式 | 描述 | 实例 |
|---|---|---|
| $sum | 计算总和。 | db.mycol.aggregate([{$group : {_id : "$by_user", num_tutorial : {$sum : "$likes"}}}]) |
| $avg | 计算平均值 | db.mycol.aggregate([{$group : {_id : "$by_user", num_tutorial : {$avg : "$likes"}}}]) |
| $min | 获取集合中所有文档对应值得最小值。 | db.mycol.aggregate([{$group : {_id : "$by_user", num_tutorial : {$min : "$likes"}}}]) |
| $max | 获取集合中所有文档对应值得最大值。 | db.mycol.aggregate([{$group : {_id : "$by_user", num_tutorial : {$max : "$likes"}}}]) |
| $push | 在结果文档中插入值到一个数组中。 | db.mycol.aggregate([{$group : {_id : "$by_user", url : {$push: "$url"}}}]) |
| $addToSet | 在结果文档中插入值到一个数组中，但不创建副本。 | db.mycol.aggregate([{$group : {_id : "$by_user", url : {$addToSet : "$url"}}}]) |
| $first | 根据资源文档的排序获取第一个文档数据。 | db.mycol.aggregate([{$group : {_id : "$by_user", first_url : {$first : "$url"}}}]) |
| $last | 根据资源文档的排序获取最后一个文档数据 | db.mycol.aggregate([{$group : {_id : "$by_user", last_url : {$last : "$url"}}}]) |
2.$project == select
功能：修改输入文档的结构。可以删除字段，增加字段，拎出子文件的字段数据作为新的根字段。
在 MongoDB 中可以使用 "$project" 来控制数据列的显示规则，可以执行的规则如下：
- 普通列（{成员：1 | true}）：表示要显示的内容
- "_id" 列（{"_id"：0 | false}）：表示 "_id" 列是否显示
- 条件过滤列（{成员：表达式}）：满足表达式之后的数据可以进行显示
# 准备数据 db.student.insertMany([ { "_id" : 1, "name" : "zbj", "age" : 18, "course" : "语文"}, { "_id" : 2, "name" : "xx", "age" : 20, "course" : "英语"}, { "_id" : 3, "name" : "zz", "age" : 15, "course" : "政治"}, { "_id" : 4, "name" : "zz", "age" : 15, "course" : "历史"}, { "_id" : 5, "name" : "zbj", "age" : 18, "course" : "数学"} ]) # 只显示出 name、age列 db.student.aggregate([{$project: {_id: 0, name: 1, age: 1}}]) """ 只有被设置进去的字段才会显示出来，其他列就不会被显示: { "name" : "zbj", "age" : 18 } { "name" : "xx", "age" : 20 } { "name" : "zz", "age" : 15 } { "name" : "zz", "age" : 15 } { "name" : "zbj", "age" : 18 } """ # 设置别名 db.student.aggregate([{$project: {_id: 0, name: 1, age: 1, kecheng: "$course"}}]) """ { "name" : "zbj", "age" : 18, "kecheng" : "语文" } { "name" : "xx", "age" : 20, "kecheng" : "英语" } { "name" : "zz", "age" : 15, "kecheng" : "政治" } { "name" : "zz", "age" : 15, "kecheng" : "历史" } { "name" : "zbj", "age" : 18, "kecheng" : "数学" } """
3.$match == where 或者 having
# 准备数据 db.score.insertMany([ { "_id" : 1, "name" : "zbj", "age" : 18, "course" : "语文", "score": 90}, { "_id" : 2, "name" : "xx", "age" : 20, "course" : "英语", "score": 60}, { "_id" : 3, "name" : "zz", "age" : 15, "course" : "政治", "score": 50}, { "_id" : 4, "name" : "zz", "age" : 15, "course" : "历史", "score": 30}, { "_id" : 5, "name" : "zbj", "age" : 18, "course" : "数学", "score": 97} ]) # 查询成绩大于等于60的学生 where db.score.aggregate([ { $match : {score: {$gte: 60} } } ]); """ { "_id" : 1, "name" : "zbj", "age" : 18, "course" : "语文", "score" : 90 } { "_id" : 2, "name" : "xx", "age" : 20, "course" : "英语", "score" : 60 } { "_id" : 5, "name" : "zbj", "age" : 18, "course" : "数学", "score" : 97 } """ # 查询总成绩大于等于100分的学生 having db.score.aggregate([ { $group: { _id: "$name", sum: {$sum: "$score" } } }, { $match: { sum:{$gte: 100} } } ]); """ { "_id" : "zbj", "sum" : 187 } """
4.$unwind
$unwind：将文档中的某一个数组类型字段拆分成多条，每条包含数组中的一个值。
db.user.insert( { "_id": 1, "name": "狗健", "age": 18, "hobbies": [ "girl", "woman", "lady" ] } ) db.user.aggregate([ { $unwind: "$hobbies" } ]) """ { "_id" : 1, "name" : "狗健", "age" : 18, "hobbies" : "girl" } { "_id" : 1, "name" : "狗健", "age" : 18, "hobbies" : "woman" } { "_id" : 1, "name" : "狗健", "age" : 18, "hobbies" : "lady" } """
3、利用聚合管道进行多表查询
我们利用aggregate中的$lookup进行多表查询，下面就介绍$lookup的基础用法
1.主要功能 是将每个输入待处理的文档，经过$lookup 阶段的处理，输出的新文档中会包含一个新生成的数组列（户名可根据需要命名新key的名字 ）。数组列存放的数据 是 来自 被Join 集合的适配文档，如果没有，集合为空（即 为[ ]）
2. 基本语法
{ $lookup: { from: <collection to join>, localField: <field from the input documents>, foreignField: <field from the documents of the "from" collection>, as: <output array field> } }
3. 语法的解释说明
| 语法值 | 解释说明 |
from
|
同一个数据库下等待被Join的集合。 |
localField
|
源集合中的match值，如果输入的集合中，某文档没有 localField 那么 localField 会被认为是 null 或者 空 |
foreignField
|
待Join的集合的match值，如果待Join的集合中，文档没有foreignField 值，那么 foreignField 会被认为是 null 或者 空 |
as
|
为输出文档的新增值命名。如果输入的集合中已存在该值，则会覆盖掉 |
null = null 为真
4.例子
# 出版社集合 db.publisher.insertMany([ {"_id": 1, "name": "小明出版社", "addr": "深圳", "id": 1}, {"_id": 2, "name": "小红出版社", "addr": "广州", "id": 2}, {"_id": 3, "name": "狗子出版社", "addr": "东莞", "id": 3}, {"_id": 4} ]) # 书集合 db.books.insertMany([ { "_id" : 1, "title" : "三国演义", "pub_id": 1}, { "_id" : 2, "title" : "水浒传", "pub_id": 2}, { "_id" : 3, "title" : "新三国", "pub_id": 1}, { "_id" : 4, "title" : "红楼梦", "pub_id": 2}, { "_id" : 5, "title": "狗屎真理", "pub_id": null}, { "_id" : 6 } ]) # 查询各个出版社出版的书籍 db.publisher.aggregate([ { $lookup:{ from: "books", localField: "id", foreignField: "pub_id", as: "pub_books" } }, ]) """结果 {"_id": 1, "name": "小明出版社", "addr": "深圳", "id": 1, "pub_books": [ {"_id": 1, "title": "三国演义", "pub_id": 1}, {"_id": 3, "title": "新三国", "pub_id": 1} ] } {"_id": 2, "name": "小红出版社", "addr": "广州", "id": 2, "pub_books": [ {"_id": 2, "title": "水浒传", "pub_id": 2}, {"_id": 4, "title": "红楼梦", "pub_id": 2} ] } {"_id": 3, "name": "狗子出版社", "addr": "东莞", "id": 3, "pub_books": [] } {"_id": 4, "pub_books": [ {"_id": 5, "title": "狗屎真理", "pub_id": null}, {"_id": 6} ] } """ 分析处理过程： 从集合publisher中逐个获取文档处理，拿到一个文档后，会根据 localField 值 遍历被Join的 books 集合（from: "books"），看books集合文档中 foreignField 值是否与之相等,如果相等，就把符合条件的books文档整体内嵌到聚合框架新生成的文档中，并且新key 统一命名为 pub_books。考虑到符合条件的文档不唯一，这个Key对应的Value是个数组形式。原集合中Key对应的值为Null值或不存在时，需特别小心。 说明: 1.localField没有找到对应的foreignField publisher 集合中 id为3的文档，因为在join的 books 集合中没有找到对应的pub_id，所以id为3的文档的pub_books是一个空列表。 2.localField或者foreignField不存在值 publisher 集合中 _id 为4的文档，localField不存在(即没有 id 这个字段)，那么查询的时候会认为这个_id为4的文档默认的localField为null，即 id: null books 集合中，_id为5的文档 foreignField，pub_id为null，则会匹配上publisher集合中的id: null 的文档 books 集合中，_id为6的文档 不存在foreignField(即pub_id不存在)，则会认为这个文档的pub_id: null ，也会匹配上publisher集合中的id: null 的文档 # 还可以继续使用其他管道命令 # 查询各个出版社出版的书籍，没有出版书籍的不显示，即pub_books为空，不显示 db.publisher.aggregate([ { $lookup:{ from: "books", localField: "id", foreignField: "pub_id", as: "pub_books" } }, { $match: {"pub_books": {"$ne": []}} } ]) """结果 {"_id": 1, "name": "小明出版社", "addr": "深圳", "id": 1, "pub_books": [ {"_id": 1, "title": "三国演义", "pub_id": 1}, {"_id": 3, "title": "新三国", "pub_id": 1} ] } {"_id": 2, "name": "小红出版社", "addr": "广州", "id": 2, "pub_books": [ {"_id": 2, "title": "水浒传", "pub_id": 2}, {"_id": 4, "title": "红楼梦", "pub_id": 2} ] } {"_id": 4, "pub_books": [ {"_id": 5, "title": "狗屎真理", "pub_id": null}, {"_id": 6} ] } """
【推荐】国内首个AI IDE，深度理解中文开发场景，立即下载体验Trae
【推荐】编程新体验，更懂你的AI，立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包，你的智能百科全书，全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell：AI 加持，快人一步
· 开发者必知的日志记录最佳实践
· SQL Server 2025 AI相关能力初探
· Linux系列：如何用 C#调用 C方法造成内存泄露
· AI与.NET技术实操系列（二）：开始使用ML.NET
· 记一次.NET内存居高不下排查解决与启示
· Manus重磅发布：全球首款通用AI代理技术深度解析与实战指南
· 被坑几百块钱后，我竟然真的恢复了删除的微信聊天记录！
· 没有Manus邀请码？试试免邀请码的MGX或者开源的OpenManus吧
· 园子的第一款AI主题卫衣上架——"HELLO! HOW CAN I ASSIST YOU TODAY
· 【自荐】一款简洁、开源的在线白板工具 Drawnix