mongodb清除连接和日志的正确方法分享(mongodb中删除数据库)满满干货

随心笔谈3个月前发布 admin
196 00
🌐 经济型:买域名、轻量云服务器、用途:游戏 网站等 《腾讯云》特点:特价机便宜 适合初学者用 点我优惠购买
🚀 拓展型:买域名、轻量云服务器、用途:游戏 网站等 《阿里云》特点:中档服务器便宜 域名备案事多 点我优惠购买
🛡️ 稳定型:买域名、轻量云服务器、用途:游戏 网站等 《西部数码》 特点:比上两家略贵但是稳定性超好事也少 点我优惠购买

文章摘要

最近在使用Pymongo处理并发时,服务器出现卡死问题。经过分析发现,主要原因是MongoDB未完全关闭正在使用的连接,且在这些连接未释放前进行了高频连接操作,导致连接总数迅速增加。为此,采取以下方法进行处理: 1. **关闭当前连接**: - 查看当前连接信息:使用`db.serverStatus().connections`获取`current`、`available`和`connection.totalCreated`等信息。 - 清除当前操作:通过以下命令清除所有正在执行的操作: ```javascript var ops = db.currentOp().inprog; for (let i = 0; i < ops.length; i++) { var opid = ops[i].opid; db.killOp(opid); console.log("Stopping op ... #" + opid); } ``` 2. **检查TCP连接**: - 查看所有连接:使用`netstat -nat | grep '27017'`。 - 检查特定端口:使用`netstat -tpna | grep :35522`,然后通过`kill -9 14335`关闭相关进程。 - 注意:关闭后,TCP连接状态会变为TIME_WAIT,但端口会暂时被占用,但会自动释放。 3. **通过程序管理连接**: - 如果知道是由特定程序(如Python)连接的MongoDB,可以通过`ps -aux | grep python`查找相关进程,然后使用`kill -9`命令终止该进程。 4. **处理日志**: - 检查日志文件:使用`tail -n 100 mongo.log`查看最后几行。 - 优化日志管理:使用`db.runCommand({ logRotate: 1 })`启用日志旋转功能,避免日志文件过大。 5. **清理连接**: - 使用`db.getCollection('集合名').aggregate([{$group: { _id: {'去重字段': '$去重字段'}, count: {$sum: 1}, dups: {$addToSet: '$_id'} }}, {$match: { count: {$gt: 1} }}], { allowDiskUse: true }).forEach(function(doc) { doc.dups.shift(); db.getCollection('集合名').remove({_id: {$in: doc.dups}}); })`去除重复项。 通过以上方法,可以有效清理MongoDB连接并优化日志管理,避免服务器卡死问题。



目录前言关闭current的方法一:关闭current的方法二:日志去重script导出数据总结

最近在做并发,服务器卡死了。

感觉是pymongo未能完全close掉和mongodb创建的tcp连接,并且在mongo连接未自动释放前进行高频连接,导致连接数爆满造成的。

所以对建立的连接进行清除,以此记录并做分享。

查看MongoDB的连接信息

db.serverStatus().connections

current 当前连接数

available 可用连接数

connection.totalCreated 创建到服务器的所有传入连接的计数。此数字包括已关闭的连接。

清除所有当前的currentOp:

var ops=db.currentOp().inprog;
for(i=0; i < ops.length; i++){
var opid=ops[i].opid;
db.killOp(opid);
print(“Stopping op … #”+opid)
};

上面的命令无法关闭current连接

查看所有current的tcp连接:

netstat -nat | grep ‘27017′

查看指定端口的进程号

netstat -tpna | grep :35522

然后kill掉该进程

kill -9 14335

再到db-shell中查看,已经关闭一个current了。

这种方式关掉的tcp连接状态会变成TIME_WAIT,端口依旧被占用,因为ACK是由我们主动关闭发出的。

不过还好的是一般等一段时间链接自动会被释放,端口也不再被占用了。

可以看到35522和35524都已经被释放。

如果你知道是由哪个程序连接的mongodb,比如python程序

那么可以使用命令查看程序端口占用情况

ps -aux | grep python

然后kill掉对应的python程序,run.py,也能完成current的清除

批量清除指定程序:

ps -efww|grep -w “run.py” |grep -v grep|cut -c 9-15|xargs kill -9

查看日志位置

cat /etc/mongod.conf

日志文件过大,不能通过vim查看,用tail查看最后100行

tail -n 100 mongo.log

不需要重启服务,重新开启一个新日志文件的方法

use admin
db.runCommand({logRotate:1})

运行过程中不能删除日志文件,清空日志文件但不删除文件的命令(删除后没有生成日志)

: >run.log

也可以使用旋转日志 logRotate :对日志进行切割

db.getCollection(‘集合名’).aggregate([{$group:{_id:{‘去重字段’:’$去重字段’}, count:{$sum:1}, dups:{$addToSet: ‘$_id’}}},{$match:{count:{$gt:1}}}] ,{ allowDiskUse: true }).forEach(function(doc){doc.dups.shift();db.getCollection(‘集合名’).remove({_id: {$in: doc.dups}});})

mongoexport -h localhost:27017 -u 用户名 -p 密码 -d 库名 -c 集合名 -o 导出文件路径

到此这篇关于mongodb清除连接和日志的文章就介绍到这了,更多相关mongodb清除连接和日志内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

© 版权声明

相关文章