golang mysql操作
2022-03-19 23:30 youxin 阅读(683) 评论(0) 编辑 收藏 举报golang数据类型和mysql数据类型的对应
Golang 提供了database/sql
包用于对SQL数据库
的访问, 作为操作数据库的入口对象sql.DB
, 主要为我们提供了两个重要的功能:
- sql.DB 通过数据库驱动为我们提供管理底层数据库连接的打开和关闭操作.
- sql.DB 为我们管理数据库连接池
需要注意的是,sql.DB表示操作数据库的抽象访问接口,而非一个数据库连接对象;它可以根据driver打开关闭数据库连接,管理连接池。正在使用的连接被标记为繁忙,用完后回到连接池等待下次使用。所以,如果你没有把连接释放回连接池,会导致过多连接使系统资源耗尽。
操作mysql
1.导入mysql数据库驱动
import ( "database/sql" _ "github.com/go-sql-driver/mysql" )
通常来说, 不应该直接使用驱动所提供的方法, 而是应该使用 sql.DB, 因此在导入 mysql 驱动时, 这里使用了匿名导入的方式(在包路径前添加 _), 当导入了一个数据库驱动后, 此驱动会自行初始化并注册自己到Golang的database/sql上下文中, 因此我们就可以通过 database/sql 包提供的方法访问数据库了.
2.连接数据库
type DbWorker struct { //mysql data source name Dsn string } func main() { dbw := DbWorker{ Dsn: "user:password@tcp(127.0.0.1:3306)/test", } db, err := sql.Open("mysql", dbw.Dsn) if err != nil { panic(err) return } defer db.Close() }
格式
db, err := sql.Open("mysql", "user:password@tcp(localhost:5555)/dbname?charset=utf8")
通过调用sql.Open函数返回一个sql.DB指针
; sql.Open函数原型如下:
func Open(driverName, dataSourceName string) (*DB, error)
driverName
: 使用的驱动名. 这个名字其实就是数据库驱动注册到 database/sql 时所使用的名字.dataSourceName
: 数据库连接信息,这个连接包含了数据库的用户名, 密码, 数据库主机以及需要连接的数据库名等信息.
- sql.Open并不会立即建立一个数据库的网络连接, 也不会对数据库链接参数的合法性做检验, 它仅仅是初始化一个sql.DB对象. 当真正进行第一次数据库查询操作时, 此时才会真正建立网络连接;
- sql.DB表示操作数据库的抽象接口的对象,但不是所谓的数据库连接对象,sql.DB对象只有当需要使用时才会创建连接,如果想立即验证连接,需要用Ping()方法;
- sql.Open返回的sql.DB对象是协程并发安全的.
- sql.DB的设计就是用来作为长连接使用的。不要频繁Open, Close。比较好的做法是,为每个不同的datastore建一个DB对象,保持这些对象Open。如果需要短连接,那么把DB作为参数传入function,而不要在function中Open, Close。
3.数据库基本操作
数据库查询的一般步骤如下:
- 调用 db.Query 执行 SQL 语句, 此方法会返回一个 Rows 作为查询的结果
- 通过 rows.Next() 迭代查询数据.
- 通过 rows.Scan() 读取每一行的值
- 调用 db.Close() 关闭查询
现有user
数据库表如下:
CREATE TABLE `user` ( `id` bigint(20) NOT NULL AUTO_INCREMENT, `name` varchar(20) DEFAULT '', `age` int(11) DEFAULT '0', PRIMARY KEY (`id`) ) ENGINE=InnoDB AUTO_INCREMENT=3 DEFAULT CHARSET=utf8mb4
MySQL 5.5 之前, UTF8 编码只支持1-3个字节,从MYSQL5.5开始,可支持4个字节UTF编码utf8mb4,一个字符最多能有4字节,utf8mb4兼容utf8,所以能支持更多的字符集;关于emoji表情的话mysql的utf8是不支持,需要修改设置为utf8mb4,才能支持。
查询数据
func (dbw *DbWorker) QueryData() { dbw.QueryDataPre() rows, err := dbw.Db.Query(`SELECT * From user where age >= 20 AND age < 30`) defer rows.Close() if err != nil { fmt.Printf("insert data error: %v\n", err) return } for rows.Next() { rows.Scan(&dbw.UserInfo.Id, &dbw.UserInfo.Name, &dbw.UserInfo.Age) if err != nil { fmt.Printf(err.Error()) continue } if !dbw.UserInfo.Name.Valid { dbw.UserInfo.Name.String = "" } if !dbw.UserInfo.Age.Valid { dbw.UserInfo.Age.Int64 = 0 } fmt.Println("get data, id: ", dbw.UserInfo.Id, " name: ", dbw.UserInfo.Name.String, " age: ", int(dbw.UserInfo.Age.Int64)) } err = rows.Err() if err != nil { fmt.Printf(err.Error()) } }
- rows.Scan 参数的顺序很重要, 需要和查询的结果的column对应. 例如 “SELECT * From user where age >=20 AND age < 30” 查询的行的 column 顺序是 “id, name, age” 和插入操作顺序相同, 因此 rows.Scan 也需要按照此顺序 rows.Scan(&id, &name, &age), 不然会造成数据读取的错位.
- 因为golang是强类型语言,所以查询数据时先定义数据类型,但是查询数据库中的数据存在三种可能:存在值,存在零值,未赋值NULL 三种状态, 因为可以将待查询的数据类型定义为sql.Nullxxx类型,可以通过判断Valid值来判断查询到的值是否为赋值状态还是未赋值NULL状态.
- 每次db.Query操作后, 都建议调用rows.Close(). 因为 db.Query() 会从数据库连接池中获取一个连接, 这个底层连接在结果集(rows)未关闭前会被标记为处于繁忙状态。当遍历读到最后一条记录时,会发生一个内部EOF错误,自动调用rows.Close(),但如果提前退出循环,rows不会关闭,连接不会回到连接池中,连接也不会关闭, 则此连接会一直被占用. 因此通常我们使用 defer rows.Close() 来确保数据库连接可以正确放回到连接池中; 不过阅读源码发现rows.Close()操作是幂等操作,即一个幂等操作的特点是其任意多次执行所产生的影响均与一次执行的影响相同, 所以即便对已关闭的rows再执行close()也没关系.
单行查询
var name string err = db.QueryRow("select name from user where id = ?", 1).Scan(&name) if err != nil { log.Fatal(err) } fmt.Println(name)
- err在Scan后才产生,上述链式写法是对的
- 需要注意Scan()中变量和顺序要和前面Query语句中的顺序一致,否则查出的数据会映射不一致.
插入数据
func (dbw *DbWorker) insertData() { ret, err := dbw.Db.Exec(`INSERT INTO user (name, age) VALUES ("xys", 23)`) if err != nil { fmt.Printf("insert data error: %v\n", err) return } if LastInsertId, err := ret.LastInsertId(); nil == err { fmt.Println("LastInsertId:", LastInsertId) } if RowsAffected, err := ret.RowsAffected(); nil == err { fmt.Println("RowsAffected:", RowsAffected) } }
通过db.Exec()
插入数据,通过返回的err
可知插入失败的原因,通过返回的ret
可以进一步查询本次插入数据影响的行数RowsAffected
和最后插入的Id(如果数据库支持查询最后插入Id).
4.预编译语句(Prepared Statement)
预编译语句(PreparedStatement)提供了诸多好处, 因此我们在开发中尽量使用它. 下面列出了使用预编译语句所提供的功能:
- PreparedStatement 可以实现自定义参数的查询
- PreparedStatement 通常来说, 比手动拼接字符串 SQL 语句高效.
- PreparedStatement 可以防止SQL注入攻击
一般用Prepared Statements
和Exec()
完成INSERT
, UPDATE
, DELETE
操作。
下面是将上述案例用Prepared Statement 修改之后的完整代码
package main import ( "database/sql" "fmt" _ "github.com/go-sql-driver/mysql" ) type DbWorker struct { Dsn string Db *sql.DB UserInfo userTB } type userTB struct { Id int Name sql.NullString Age sql.NullInt64 } func main() { var err error dbw := DbWorker{ Dsn: "root:123456@tcp(localhost:3306)/sqlx_db?charset=utf8mb4", } dbw.Db, err = sql.Open("mysql", dbw.Dsn) if err != nil { panic(err) return } defer dbw.Db.Close() dbw.insertData() dbw.queryData() } func (dbw *DbWorker) insertData() { stmt, _ := dbw.Db.Prepare(`INSERT INTO user (name, age) VALUES (?, ?)`) defer stmt.Close() ret, err := stmt.Exec("xys", 23) if err != nil { fmt.Printf("insert data error: %v\n", err) return } if LastInsertId, err := ret.LastInsertId(); nil == err { fmt.Println("LastInsertId:", LastInsertId) } if RowsAffected, err := ret.RowsAffected(); nil == err { fmt.Println("RowsAffected:", RowsAffected) } } func (dbw *DbWorker) QueryDataPre() { dbw.UserInfo = userTB{} } func (dbw *DbWorker) queryData() { stmt, _ := dbw.Db.Prepare(`SELECT * From user where age >= ? AND age < ?`) defer stmt.Close() dbw.QueryDataPre() rows, err := stmt.Query(20, 30) defer rows.Close() if err != nil { fmt.Printf("insert data error: %v\n", err) return } for rows.Next() { rows.Scan(&dbw.UserInfo.Id, &dbw.UserInfo.Name, &dbw.UserInfo.Age) if err != nil { fmt.Printf(err.Error()) continue } if !dbw.UserInfo.Name.Valid { dbw.UserInfo.Name.String = "" } if !dbw.UserInfo.Age.Valid { dbw.UserInfo.Age.Int64 = 0 } fmt.Println("get data, id: ", dbw.UserInfo.Id, " name: ", dbw.UserInfo.Name.String, " age: ", int(dbw.UserInfo.Age.Int64)) } err = rows.Err() if err != nil { fmt.Printf(err.Error()) } }
db.Prepare()返回的statement使用完之后需要手动关闭,即defer stmt.Close()
package dbs import ( "database/sql" "fmt" _ "github.com/go-sql-driver/mysql" "log" "time" ) var MysqlDb *sql.DB var MysqlDbErr error const ( USER_NAME = "root" PASS_WORD = "root" HOST = "localhost" PORT = "3306" DATABASE = "demo" CHARSET = "utf8" ) // 初始化链接 func init() { dbDSN := fmt.Sprintf("%s:%s@tcp(%s:%s)/%s?charset=%s", USER_NAME, PASS_WORD, HOST, PORT, DATABASE, CHARSET) // 打开连接失败 MysqlDb, MysqlDbErr = sql.Open("mysql", dbDSN) //defer MysqlDb.Close(); if MysqlDbErr != nil { log.Println("dbDSN: " + dbDSN) panic("数据源配置不正确: " + MysqlDbErr.Error()) } // 最大连接数 MysqlDb.SetMaxOpenConns(100) // 闲置连接数 MysqlDb.SetMaxIdleConns(20) // 最大连接周期 MysqlDb.SetConnMaxLifetime(100*time.Second) if MysqlDbErr = MysqlDb.Ping(); nil != MysqlDbErr { panic("数据库链接失败: " + MysqlDbErr.Error()) } }
增删改查
package dbs import ( "fmt" ) // 用户表结构体 type User struct { Id int64 `db:"id"` Name string `db:"name"` Age int `db:"age"` } // 查询数据,指定字段名 func StructQueryField() { user := new(User) row := MysqlDb.QueryRow("select id, name, age from users where id=?",1) if err :=row.Scan(&user.Id,&user.Name,&user.Age); err != nil{ fmt.Printf("scan failed, err:%v",err) return } fmt.Println(user.Id,user.Name,user.Age) } // 查询数据,取所有字段 func StructQueryAllField() { // 通过切片存储 users := make([]User, 0) rows, _:= MysqlDb.Query("SELECT * FROM `users` limit ?",100) // 遍历 var user User for rows.Next(){ rows.Scan(&user.Id, &user.Name, &user.Age) users=append(users,user) } fmt.Println(users) } // 插入数据 func StructInsert() { ret,_ := MysqlDb.Exec("insert INTO users(name,age) values(?,?)","小红",23) //插入数据的主键id lastInsertID,_ := ret.LastInsertId() fmt.Println("LastInsertID:",lastInsertID) //影响行数 rowsaffected,_ := ret.RowsAffected() fmt.Println("RowsAffected:",rowsaffected) } // 更新数据 func StructUpdate() { ret,_ := MysqlDb.Exec("UPDATE users set age=? where id=?","100",1) upd_nums,_ := ret.RowsAffected() fmt.Println("RowsAffected:",upd_nums) } // 删除数据 func StructDel() { ret,_ := MysqlDb.Exec("delete from users where id=?",1) del_nums,_ := ret.RowsAffected() fmt.Println("RowsAffected:",del_nums) } // 事务处理,结合预处理 func StructTx() { //事务处理 tx, _ := MysqlDb.Begin(); // 新增 userAddPre, _ := MysqlDb.Prepare("insert into users(name, age) values(?, ?)"); addRet, _ := userAddPre.Exec("zhaoliu", 15); ins_nums, _ := addRet.RowsAffected(); // 更新 userUpdatePre1, _ := tx.Exec("update users set name = 'zhansan' where name=?", "张三"); upd_nums1, _ := userUpdatePre1.RowsAffected(); userUpdatePre2, _ := tx.Exec("update users set name = 'lisi' where name=?", "李四"); upd_nums2, _ := userUpdatePre2.RowsAffected(); fmt.Println(ins_nums); fmt.Println(upd_nums1); fmt.Println(upd_nums2); if ins_nums > 0 && upd_nums1 > 0 && upd_nums2 > 0 { tx.Commit(); }else{ tx.Rollback(); } } // 查询数据,指定字段名,不采用结构体 func RawQueryField() { rows, _ := MysqlDb.Query("select id,name from users"); if rows == nil { return } id := 0; name := ""; fmt.Println(rows) fmt.Println(rows) for rows.Next() { rows.Scan(&id, &name); fmt.Println(id, name); } } // 查询数据,取所有字段,不采用结构体 func RawQueryAllField() { //查询数据,取所有字段 rows2, _ := MysqlDb.Query("select * from users"); //返回所有列 cols, _ := rows2.Columns(); //这里表示一行所有列的值,用[]byte表示 vals := make([][]byte, len(cols)); //这里表示一行填充数据 scans := make([]interface{}, len(cols)); //这里scans引用vals,把数据填充到[]byte里 for k, _ := range vals { scans[k] = &vals[k]; } i := 0; result := make(map[int]map[string]string); for rows2.Next() { //填充数据 rows2.Scan(scans...); //每行数据 row := make(map[string]string); //把vals中的数据复制到row中 for k, v := range vals { key := cols[k]; //这里把[]byte数据转成string row[key] = string(v); } //放入结果集 result[i] = row; i++; } fmt.Println(result); }
入口调用测试
package main import "go_mysql/dbs" func main() { dbs.StructInsert() dbs.StructUpdate() dbs.StructQueryField() dbs.StructQueryAllField() dbs.StructDel() dbs.StructTx() dbs.RawQueryField() dbs.RawQueryAllField() }
结构
├── dbs
│ ├── mysql.go 连接mysql
│ └── user.go user表操作
├── go.mod
├── go.sum
├── main.go 入口文件
├── Makefile
└── vendor
查询
var name string var age int rows, err := db.Query("select name,age from user where id = ? ", 1) if err != nil { fmt.Println(err) } defer rows.Close() for rows.Next() { err := rows.Scan(&name, &age) if err != nil { fmt.Println(err) } } err = rows.Err() if err != nil { fmt.Println(err) } fmt.Println("name:", url, "age:", description)
增删改
stmt, err := db.Prepare("insert into user(name,age)values(?,?)") if err != nil { log.Println(err) } rs, err := stmt.Exec("go-test", 12) if err != nil { log.Println(err) } //我们可以获得插入的id id, err := rs.LastInsertId() //可以获得影响行数 affect, err := rs.RowsAffected()
https://zhuanlan.zhihu.com/p/305152125