grigain无法执行请求(连接失败)

ioekq8ef  于 2021-05-30  发布在  Hadoop
关注(0)|答案(1)|浏览(333)

我正在运行一个hadoop作业,它迭代一个浮点矩阵来做一些计算。除此之外,我正在使用gridgain hadoop acelerator在内存中完成这项工作。然而,当我尝试用1000次迭代运行我的计算时,发生了一些奇怪的事情。这个例外是thown: Caused by: class org.gridgain.client.impl.connection.GridClientConnectionResetException: Failed to perform request (connection failed): /127.0.0.1:11211 更奇怪的是,当抛出异常时,节点是正常的,计算似乎继续,但由于异常,我无法获得最终打印结果。
以下是在Map阶段完成的计算代码:

float lineResult = 0.0f;
float[] linesResults = new float[lines.length];

for(int x = 0; x < numberOfIterationsPerLine; x++)
{
    for(int y = 0; y < lines.length; y++)//line by line
    {
        lineResult = 0.0f;
        for(int i = 0; i < lines[y].length; i++)//value by value
        {   
            if(i == 0)
                lineResult += lines[y][i] * lines[y][i];
            else
            {
                for(int j = 0; j <= i; j++)
                    lineResult += lines[y][j] * lines[y][i];
            }
        }
        linesResults[y] += lineResult; 
    }
}

for(int z = 0; z < lines.length; z++)
    //write the result
    context.write(new LongWritable(1), new FloatWritable(linesResults[z]));

我还尝试了不同大小的节点堆,从2gb到4gb。这都是在同一台机器上完成的。
有人遇到过类似的问题吗?
谢谢你的关注。

qvtsj1bj

qvtsj1bj1#

这可能是由于ignite job tracker(默认端口11211)上的空闲超时造成的。请尝试通过节点配置增加空闲超时(默认值为7000):

<bean id="grid.cfg" class="org.apache.ignite.configuration.IgniteConfiguration">
...
    <property name="connectorConfiguration">
        <bean class="org.apache.ignite.configuration.ConnectorConfiguration">
            <property name="port" value="11211"/>
            <property name="idleTimeout" value="100000"/>
        </bean>
    </property>

相关问题