spark集群无法分配资源
2016-03-16 00:00
253 查看
摘要: spark集群无法分配资源
问题1:WARN TaskSchedulerImpl: Initial job has not accepted any resources; check your cluster UI to ensure that workers are registered and have sufficient memory
此时程序会一直loading,running,loading,running…的循环,并持续出现上面的警告。
出现这个错误很有可能是你启动spark的方式有问题。
很多人启动spark直接用start-all.sh,但是如果你在env配置文件里没有指定master的ip,这样启动就会报上面这个问题。如果没有配置可以在启动的时候指定:
在maser上用
./start-master.sh -h “ip地址”
在worker上用
./start-slave.sh spark://"master的ip":7077
其它参数在启动的时候也可以指定,端口号也可以改动。
问题1:WARN TaskSchedulerImpl: Initial job has not accepted any resources; check your cluster UI to ensure that workers are registered and have sufficient memory
此时程序会一直loading,running,loading,running…的循环,并持续出现上面的警告。
出现这个错误很有可能是你启动spark的方式有问题。
很多人启动spark直接用start-all.sh,但是如果你在env配置文件里没有指定master的ip,这样启动就会报上面这个问题。如果没有配置可以在启动的时候指定:
在maser上用
./start-master.sh -h “ip地址”
在worker上用
./start-slave.sh spark://"master的ip":7077
其它参数在启动的时候也可以指定,端口号也可以改动。
相关文章推荐
- tomcat修改session时间
- iOS提交应用至APP Store流程
- 在LINUX中启动多个TOMCAT
- Maven中dependencyManagement 和dependencies的区别
- SQL Server中查看哪些游标未释放
- Jsp与servlet的区别
- Java中关于String最常见的10个问题:
- String对象不可改变的特性
- String对象不可改变的特性
- String对象不可改变的特性
- RabbitMQ master and slave sync
- 把Tomcat控制台的运行日志打印到log文件中
- 银行卡类型api,通过银行卡查询判断卡类型
- mootools入门
- Material Design 初步
- js 数组去除重复对象
- 搭建nginx+tomcat+Java的负载均衡环境
- CentOS 6 同一台机器部署多个Tomcat应用服务器
- [译]GitHub应对1.28宕机事故的前前后后
- 加班码代码太烧脑,这些美食补个够!