2020年11月12日
摘要: linux下使用通配符创建文件或目录 touch file{1..5}.txt mkdir dir_{1..5} 批量删除文件或目录 rm -rf file{1..5}.txt ls |xargs -i rm -rm {} 阅读全文
posted @ 2020-11-12 00:40 boye169 阅读(1504) 评论(0) 推荐(0) 编辑
摘要: pip 导出安装包 pip freeze > requirements.txt pip 在线安装 pip install -r requirement.txt pip离线安装 注:离线安装需要提前下载所需的*.whl文件(https://pipy.org) pip install --find-li 阅读全文
posted @ 2020-11-12 00:28 boye169 阅读(1871) 评论(0) 推荐(1) 编辑
2020年10月30日
摘要: 简介 Scrapy是一个为了爬取网站数据,提取结构性数据而编写的应用框架。 其可以应用在数据挖掘,信息处理或存储历史数据等一系列的程序中。 其最初是为了页面抓取 (更确切来说, 网络抓取 )所设计的, 也可以应用在获取API所返回的数据(例如 Amazon Associates Web Servic 阅读全文
posted @ 2020-10-30 23:25 boye169 阅读(201) 评论(0) 推荐(0) 编辑
摘要: 安装mysql模块 pip install PyMySQLpip install sqlalchemy 操作mysql数据 #!/usr/bin/env python# -*- coding: utf-8 -*- # import cx_Oracle from sqlalchemy import c 阅读全文
posted @ 2020-10-30 21:56 boye169 阅读(111) 评论(0) 推荐(0) 编辑
2020年10月23日
摘要: Rdd转DataFrame from pyspark.sql.types import * from pyspark import SparkContext,SparkConf from pyspark.sql import SparkSession spark=SparkSession.build 阅读全文
posted @ 2020-10-23 00:04 boye169 阅读(2621) 评论(0) 推荐(0) 编辑
2020年10月22日
摘要: 安装 1.下载 wget http://mirrors.shu.edu.cn/apache/hbase/1.4.6/hbase-1.4.6-bin.tar.gz tar -zxvf hbase-1.4.6-bin.tar.gz 2.配置 hbase-site.xml 文件 <configuratio 阅读全文
posted @ 2020-10-22 23:56 boye169 阅读(123) 评论(0) 推荐(0) 编辑
摘要: #!/usr/bin/env python3 #-*- coding:utf-8 -*- # pip3 install pdfminer3k from pdfminer.converter import PDFPageAggregator from pdfminer.layout import LA 阅读全文
posted @ 2020-10-22 23:52 boye169 阅读(2564) 评论(0) 推荐(0) 编辑
2020年10月12日
摘要: 创建用户对象 from django.contrib.auth.models import User create():创建一个普通用户,密码是明文的。create_user():创建一个普通用户,密码是密文的。create_superuser():创建一个超级用户 User.objects.cre 阅读全文
posted @ 2020-10-12 22:39 boye169 阅读(137) 评论(0) 推荐(0) 编辑
2020年10月9日
摘要: 1.新建一个 django project django-admin.py startproject project_name 2. 新建 app(要先进入项目目录下,cd project_name 然后执行下面的命令) python manage.py startapp app_name 或 dj 阅读全文
posted @ 2020-10-09 22:58 boye169 阅读(118) 评论(0) 推荐(0) 编辑
摘要: 在项目下创建一个app应用 django-admin.py startapp app 创建模型 注:Django 规定,如果要使用模型,必须要创建一个 应用 vim app/models.py from django.db import models # Create your models her 阅读全文
posted @ 2020-10-09 00:00 boye169 阅读(106) 评论(0) 推荐(0) 编辑