MaxCompute使用常见问题总结

maoer · · 1446 次点击 · 开始浏览    置顶
这是一个创建于 的主题,其中的信息可能已经有所发展或是发生改变。

摘要: Maxcompute常见问题的总结,方便广大用户可以快速排查问题 **计费相关** 存储计费:按照存储在 MaxCompute 的数据的容量大小进行阶梯计费。 计算计费:MaxCompute 分按量后付费和按 CU 预付费两种计算计费方式。 按量后付费:按量后付费方式针对 SQL 任务和 MapReduce 任务进行计费。 SQL 任务按量后付费:即 SQL 任务按 I/O 后付费。 MapReduce 按量后付费:即 MapReduce 任务按量进行计费。 按 CU 预付费:此方式仅在阿里云大数据平台提供。 下载计费: MaxCompute 将按照下载的数据大小进行计费 注意是对公网下载收费,内网下载不收费 参考https://help.aliyun.com/document_detail/27989.html?spm=5176.doc45389.6.560.LYjhcl **SQL语法和标准sql区别** 1,无事务控制 2,暂时不支持update/delete 3,不支持修改字段类型,不支持删除字段 4,不支持 select from 多表 5,其他hive对标函数,官方文档没有的暂时不支持 更多参考 https://help.aliyun.com/document_detail/50985.html?spm=5176.doc27862.6.757.lSC74f **SQL限制** select 最大显示10000行 想导出大于10000行参考 https://help.aliyun.com/document_detail/53093.html?spm=5176.7751065.6.751.iLm6hF 2,string字段最大8M 更多其他限制参考 https://help.aliyun.com/document_detail/51823.html?spm=5176.doc53093.6.618.R37r8p **java沙箱限制类问题** 用户经常问: 本地测试正常,在提交到odps后失败,代码一毛一样 https://help.aliyun.com/document_detail/27967.html?spm=5176.doc51823.6.647.Rt0efa 原因: 我们处于安全考虑,对一些第三方jar包做了限制 一般是fastjson这个包比较常见,回复口径: 由于java沙箱限制,对一些第三方jar包由限制,fastjson的jar包被限制因为安全沙箱的原因无法使用。 https://help.aliyun.com/document_detail/27967.html 建议用gson import com.google.gson.Gson;这个包试下 其他的jar的限制用户遇到类似报错可以提交工单咨询 下图是常见报错例子 ![图片描述](http://img.blog.csdn.net/20180321150716201?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQveXVucWlpbnNpZ2h0/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast) **没有启用新类型flag** 若想使用新数据类型,需在 SQL 语句前加语句:set odps.sql.type.system.odps2=true; 目前情况是需要加这个set,后续会省掉 https://help.aliyun.com/document_detail/27821.html?spm=5176.doc27967.6.546.XhnAGU 新数据类型,以及新函数、函数返回值是新数据类型都需要set 如果没有set,报错现象 com.aliyun.odps.OdpsException: ODPS-0130071:[1,8] Semantic analysis exception - function or view udtf_recom cannot be resolved 找不到函数或者方法 **oss和ots外部表创建,查询失败** 1,检查是否按照文档授权 https://help.aliyun.com/document_detail/45389.html?spm=5176.doc27821.6.691.5g0yGt 2,报错类似 DDL syntax error:ODPS-0130071:Semantic analysis exception - unrecognized option 'EXTERNAL'. 检查:是否引用了新类型,也需要set 3,如果建表后查询失败 检查用户oss或者ots数据量是否巨大, oss的object数量是否很多 单个object是否很大 参考文档 https://www.atatech.org/articles/67977 理解 报错例子 没有授权 ![图片描述](http://img.blog.csdn.net/20180321151002213?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQveXVucWlpbnNpZ2h0/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast) **客户端odpscmd 报错** 连接客户端/访问域名先看下域名 https://help.aliyun.com/document_detail/34951.html?spm=5176.doc48950.6.572.58H50H 项目名称 Ak信息 如果报错找不到java类什么的 一般是客户端java环境(暂时不支持java9),建议java 7和8 **任务运行比较慢** 1,如果是按量付费,请提交工单,如果是预付费,可以先看下cu对应的项目是否有大量作业或者比较大的作业,长期没有执行完。 可以使用主账户执行命令: TOP INSTANCE;这种方式查看当前正在运行的任务(在客户端(版本为0.29.0或以上)运行。) 下载最新版本的客户端: https://help.aliyun.com/document_detail/27804.html? 您也可以通过这个工具查看项目下运行任务的状态 https://yq.aliyun.com/articles/247739?spm=5176.8091938.0.0.7Sf007 如果是预付费cu用户可以使用这个工具查看cu使用情况 https://help.aliyun.com/document_detail/66565.html?spm=a2c4g.11186623.6.713.QARDJv 2,数据倾斜 https://help.aliyun.com/document_detail/51020.html?spm=5176.doc34951.6.754.iMKNUT [**原文链接**](https://yq.aliyun.com/articles/536451?spm=a2c41.11181499.0.0) **阅读更多干货好文,请关注扫描以下二维码:** ![图片描述](http://img.blog.csdn.net/20180321151326769?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQveXVucWlpbnNpZ2h0/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast)

有疑问加站长微信联系(非本文作者)

入群交流(和以上内容无关):加入Go大咖交流群,或添加微信:liuxiaoyan-s 备注:入群;或加QQ群:692541889

1446 次点击  
加入收藏 微博
暂无回复
添加一条新回复 (您需要 登录 后才能回复 没有账号 ?)
  • 请尽量让自己的回复能够对别人有帮助
  • 支持 Markdown 格式, **粗体**、~~删除线~~、`单行代码`
  • 支持 @ 本站用户;支持表情(输入 : 提示),见 Emoji cheat sheet
  • 图片支持拖拽、截图粘贴等方式上传