地理与气象数据分析gma包
# 地理与气象数据分析(gma包)的说明与使用
# 写在前面
对于大部分地学或气象学的学者来说,数据处理是一个很大的工程,动辄数小时或者数天的数据处理时间。如果没有很好的工具或者方法,在面对多时序(例如时序遥感数据),大尺度(例如全国范围)等数据分析研究时,就显得极为困难,因为数据处理本身就非常的耗时耗力。
几年前读研究生时,我第一次初次接触遥感数据(以及气象数据),作为领域新人,面对庞大与复杂的数据,除了对数据、数据处理过程的一脸茫然,也对后续的研究不知所措。当然,在老师的带领下,逐渐入道IDL,并利用IDL完成了所有数据的处理,开展了相关的研究;也学会了ENVI、Arcgis之类的工具;顺利的毕了业。
诚然,研究生阶段使我收获颇多。对数据以及数据处理也有了长远的进步,例如:可以使用批量处理VBA处理气象站点数据;利用IDL处理栅格数据(后续全部转为Python实现);学会了SPPS、Origin等专业软件(虽然前期利用Python绘图,可能是因为懒,或者Origin过于方便,后期全部转为了Origin);等等。也算为我现在的想法奠定了基础。
不知何时起,萌生了一种将我所接触的遥感、气象数据处理方法与算法写成函数包汇总在一起的想法。后来工作过程中的实践也证明,这种方法对提高工作效率,对个人的成长进步非常有效。所以才有<地理与气象数据分析(geographic and meteorological data analysis)>gma这个Python函数包。
目前,gma可实现 栅格数据处理(例如镶嵌、裁剪、重采样、重投影、格式转换、数据融合等),矢量数据处理(例如裁剪、擦除、交集、融合、重投影等),一些缺失值插补算法(例如线性插值)、平滑算法(例如SG平滑),一些指数算法(例如NDVI、ET0等等) 以及一些 系统交互操作 ,并配有中文的函数帮助说明,这些功能算法已经封装,只需调用对应的函数,设置相应的参数即可实现。后续也会逐步补充更多的算法和功能。
希望可以得到各位专家、同仁和朋友的支持与信赖,也希望得到各位的认可以及反馈。
@TOC
# 0 gma安装
# 0.1 Python环境
建议安装Anaconda创建Python环境。Anaconda指的是一个开源的Python发行版本,其包含了conda、Python等180多个科学包及其依赖项。 本文采用Anaconda的Windows版,版本为(点击下载):
gma需求的 Python版本应 >= 3.8 。
# 0.2 依赖库
gma的构建依赖gdal,numpy,pandas和scipy等库,这些库是gma实现功能的基础。由于gdal不是一个纯Python库,需要下载whl包手动安装,获取地址:
https://www.lfd.uci.edu/~gohlke/pythonlibs/ (opens new window)
从该网站下载对应版本GDAL的WHL包。Python 3.8 可下载 < GDAL-3.3.3-cp38-cp38-win_amd64.whl > 版本。
例如下载至D盘根目录,则文件路径为 D:\GDAL-3.3.3-cp38-cp38-win_amd64.whl 。
打开conda窗口(一般为 开始 - 所有程序 - Anaconda3 (64-bit) - Anaconda Powershell Prompt),使用以下命令安装gdal(本文均使用默认环境):
pip install "D:\GDAL-3.3.3-cp38-cp38-win_amd64.whl"
# 0.3 安装gma
gma已经上传至pypi,可以直接在conda或Windows终端中输入以下命令安装:
pip install gma
在安装gma时,依赖的numpy,pandas和scipy如果不存在则会自动安装(需联网)。 检查gma版本或是否安装成功:
(base) PS C:\Users\xxxx> conda list gma
# packages in environment at C:\Users\xxxx\anaconda3:
#
# Name Version Build Channel
gma 1.0.0 pypi_0 pypi
出现gma的详细信息则说明gma已经成功安装。
# 1 gma组织方式
下表列出了gma库的组织结构。
gma
- algorithm ||栅格、矢量操作的基础算法
- raster ——栅格处理, rasp调用的算法
- vector ——矢量处理,vesp调用的算法
- Relation || 关键 关联参数 设置
- error ——输入参数检查,错误提示。
- key ——栅格/矢量 处理的高阶参数设置,例如压缩,超大TIFF支持等。
- palmer —— 帕尔默旱涝指数及其相关指数的原始算法(尚未整合,暂不可用)。
- utils ——palmer的依赖包。
- index || 遥感、气象指数算法。
- math || 一些数学方法。
- osf || 系统交互操作。
- rasp || 栅格处理函数包。
- vesp || 矢量处理函数包。
# 2 gma函数简介
# 2.1 index指数运算
# 2.2 math数学运算
# 2.3 osf系统交互
# 2.4 rasp栅格处理
# 2.5 vesp矢量处理
# 3 key默认参数
默认参数已经内置。下表仅列出gma定义了的参数,后期可能会对其进行修改。
变量 | 类型 | 说明 | 详细介绍 |
---|---|---|---|
RasterFormat | 字典 | 支持的栅格数据驱动 | 'AAIGrid', 'BT', 'CALS', 'COG', 'DTED', 'EHdr', 'ENVI', 'ERS', 'EXR', 'FIT', 'GIF', 'GPKG', 'GRIB', 'GS7BG', 'GSAG', 'GSBG', 'GTiff', 'HDF4Image','HF2', 'HFA', 'ISCE', 'ISIS2', 'ISIS3', 'JP2OpenJPEG', 'JPEG', 'LAN', 'MBTiles', 'XPM', 'XYZ', 'netCDF', 'MFF2', 'MRF', 'NITF', 'PAux', 'PCIDSK', 'PCRaster', 'PNG', 'RST', 'Rasterlite', 'SIGDEM', 'USGSDEM', 'VICAR', 'VRT' |
VectorFormat | 字典 | 支持的矢量数据驱动 | 'ESRI Shapefile', 'PCIDSK', 'PDS4', 'PDF', 'MBTiles', 'MapInfo File', 'Memory', 'CSV', 'GML', 'LIBKML', 'KML', 'GeoJSON', 'OGR_GMT', 'GPKG', 'SQLite', 'WAsP', 'FlatGeobuf', 'Geoconcept', 'GeoRSS', 'ODS', 'XLSX', 'JML', 'VDV', 'MVT', 'MapML' |
DataType | 字典 | 数据类型 | '未知类型': 0, '8位无符号整型': 1, '16位无符号整型': 2, '16位整型': 3, '32位无符号整型': 4,'32位整型': 5, '32位浮点': 6, '64位浮点': 7, '16位复整型': 8, '32位复整型': 9,'32位复浮点型': 10, '64位复浮点型': 11 |
ResampleMethod | 字典 | 重采样方法 | 0: 'Nearest Neighbour', 1: 'Bilinear', 2: 'Cubic', 3: 'CubicSpline',4: 'Lanczos', 5: 'Average', 6: 'RMS', 7: 'Mode' |
FeatureType | 字典 | 矢量要素类型 | '未知':0,'点':1, '线':2, '面':3, '多点':4, '多线':5, '多面':6 |
GetGTiffOptions | 函数 | GTiff的创建参数 | 1. 不生成 ESRI 世界文件(.tfw )。 2. 不生成(.RPB)文件来描述 RPC(有理多项式系数)。 3. 不设置数据位深(NBITS)。 4. 默认 'LZW' 压缩。 5. 默认通过估算生成文件大小来确定是否生成 BIGTIFF 文件。 |
GenRCOptions | 函数 | 根据栅格驱动生成创建选项 | |
GetRasterEXTFromDriver | 函数 | 根据栅格驱动格式返回扩展名 | |
GetSHPOptions | 函数 | ESRI Shapefile 的创建参数 | 1. 默认创建矢量文件的字段编码为'UTF-8'。 2. 自动调整字段大小。 3. 不强制解除 '.SHP'、'.DBF' 文件2GB大小的限制。 4. 不生成空间索引文件(.qix)。 |
GenVCOptions | 函数 | 根据矢量驱动生成创建选项 | |
GetVectorEXTFromDriver | 函数 | 根据矢量驱动格式返回扩展名 |
# 4 gma函数帮助
为了使gma使用更加简单直观,gma中所有的函数帮助均提供中文帮助。例如:
import gma
help(gma.rasp.Clip)
中文帮助如下:
Help on function Clip in module gma.rasp:
Clip(InFile, OutFile, CutLineFile, InNoData=None, OutNoData=None, MaskBoundary=True, OutFormat='GTiff')
简介
----------
按矢量裁剪栅格。
参数
----------
InFile: str。输入栅格路径。
OutFile: str。输出栅格路径。
CutLineFile: str。裁剪矢量文件路径。
**可选参数
----------
InNoData = number。输入栅格的无效值。默认不指定(None)无效值。
OutNoData = number。输出栅格的无效值。默认不指定(None)无效值。
MaskBoundary = bool。是否掩膜边界外数据。默认掩膜(True)。
OutFormat = str。输出文件格式,默认为 'GTiff'。其他格式详见 ToOtherFormat 函数。
其他内容后续会逐一介绍和说明。感谢大家理解。详细的函数帮助可见:自建 | gma函数详细帮助 (opens new window) 或利用help调出相关帮助,本文不在详细解释。
# 写在最后
由于时间和精力的限制,目前可用的函数还不完善。部分函数为了gma的构建进行了修改,还未完成完整的测试。如果存在问题,我会及时进行修复。
库的构建是一个漫长和持续的过程,后续gma会添加更多的函数方法,以期使地理处理过程更加的简单方便。
近期的gma完善计划如下:
# 作者简介
洛,毕业于中国农业科学院,是一名不见经传的小小算法工程师,家乡河南洛阳,当前在北京从事一份还凑活的工作。目前致力于完成一套中文版开源的遥感、气象及相关算法体系(简单来说就是汇集其他优秀的Python库,将常用的功能封装好),使各类常用流程简单化。
期待与各位同学、同事与朋友的共同进步。有需求或者疑问可联系微信:Luo_Suppe。