我正在运行一个hadoop作业,它迭代一个浮点矩阵来做一些计算。除此之外,我正在使用gridgain hadoop acelerator在内存中完成这项工作。然而,当我尝试用1000次迭代运行我的计算时,发生了一些奇怪的事情。这个例外是thown: Caused by: class org.gridgain.client.impl.connection.GridClientConnectionResetException: Failed to perform request (connection failed): /127.0.0.1:11211
更奇怪的是,当抛出异常时,节点是正常的,计算似乎继续,但由于异常,我无法获得最终打印结果。
以下是在Map阶段完成的计算代码:
float lineResult = 0.0f;
float[] linesResults = new float[lines.length];
for(int x = 0; x < numberOfIterationsPerLine; x++)
{
for(int y = 0; y < lines.length; y++)//line by line
{
lineResult = 0.0f;
for(int i = 0; i < lines[y].length; i++)//value by value
{
if(i == 0)
lineResult += lines[y][i] * lines[y][i];
else
{
for(int j = 0; j <= i; j++)
lineResult += lines[y][j] * lines[y][i];
}
}
linesResults[y] += lineResult;
}
}
for(int z = 0; z < lines.length; z++)
//write the result
context.write(new LongWritable(1), new FloatWritable(linesResults[z]));
我还尝试了不同大小的节点堆,从2gb到4gb。这都是在同一台机器上完成的。
有人遇到过类似的问题吗?
谢谢你的关注。
1条答案
按热度按时间qvtsj1bj1#
这可能是由于ignite job tracker(默认端口11211)上的空闲超时造成的。请尝试通过节点配置增加空闲超时(默认值为7000):